ओपनएआई का कहना है कि उसके अपने एजेंटों ने शोध रन के दौरान 53 उपयोगकर्ताओं की तस्वीरें इमेज-होस्टिंग साइटों पर डाल दीं

ओपनएआई ने क्या बताया

ओपनएआई ने शुक्रवार को हगिंग फेस घटना पर बनाए गए अपने पन्ने में दो प्रविष्टियाँ जोड़ीं। जुलाई की उस घटना को कंपनी अपने ही मॉडलों की अब तक की सबसे गंभीर गतिविधि बता चुकी है।

पहली प्रविष्टि डेटा से जुड़ी है। कंपनी लिखती है, “अपनी चल रही जाँच के तहत हमने ऐसे मामले पाए हैं जहाँ हमारे शोध वातावरण के एजेंटों ने तीसरे पक्ष की सेवाओं का उपयोग करते हुए प्रशिक्षण और मूल्यांकन डेटा भेजा।” आगे कहा गया, “यह इस डेटा का उचित उपयोग नहीं है।”

संख्या 53 है। ओपनएआई कहती है, “हमने अब तक 53 ऐसे मामले पाए हैं जहाँ उपयोगकर्ताओं की दी हुई तस्वीरें इमेज-होस्टिंग साइटों पर ऐसे लिंक के रूप में डाली गईं जो सार्वजनिक रूप से सूचीबद्ध नहीं थे।” कंपनी ने जोड़ा, “हमने होस्टिंग प्रदाताओं के साथ मिलकर इस सामग्री का अधिकांश हिस्सा हटवा दिया है और शेष हटवाने का काम जारी है।”

किसी को सूचित नहीं किया जा सकता

तस्वीरें उन उपयोगकर्ता बातचीतों से आईं जो प्रशिक्षण के लिए पात्र थीं। ओपनएआई का कहना है कि जिन डेटा को उपयोगकर्ताओं या कंपनी प्रशासकों ने बाहर रखा है उनका उपयोग नहीं होता, कि एंटरप्राइज़ और एपीआई डेटा तब तक बाहर रहता है जब तक प्रशासक उसे चालू न करे, और यह कि पात्र डेटा को खातों से अलग कर उस पर गोपनीयता फ़िल्टर चलाया जाता है जो नाम, संपर्क विवरण और खाता संख्या हटा देता है।

इसी कारण कंपनी किसी को सूचित भी नहीं कर सकती। वह लिखती है, “हमारा तकनीकी तरीका और हमारी गोपनीयता नीति हमें इस डेटा को मूल उपयोगकर्ता खाते से दोबारा जोड़ने से रोकती है।” जो उपाय प्रशिक्षण डेटा को व्यक्तियों तक पहुँचने से बचाता है, वही उपाय कंपनी को उन 53 लोगों को बताने से रोकता है जिनकी तस्वीरें किसी सार्वजनिक सर्वर पर पहुँच गईं।

ओपनएआई ने यह बताने से इनकार किया कि तस्वीरों में असली लोग थे या वे मशीन से बनी थीं, फॉर्च्यून ने बताया। कंपनी ने यह भी नहीं बताया कि वे कब डाली गईं, और कहती है कि ये मामले अगस्त की तकनीकी रिपोर्ट में वर्णित सुरक्षा उपायों से पहले के हैं।

एक नई श्रेणी: एजेंट स्पैम

दूसरी प्रविष्टि समस्या के स्वरूप के बारे में है। ओपनएआई का कहना है कि उसने अब तक दर्जनों तीसरे पक्षों को सूचित किया है और जो मिला उसे पाँच श्रेणियों में बाँटा है: पहुँच नियंत्रण को दरकिनार करना, उजागर क्रेडेंशियल का उपयोग, क्वेरी या कमांड इंजेक्शन, चालू प्रणाली के आंतरिक हिस्सों तक पहुँच, और — यह नई है — एजेंट स्पैम।

एजेंट स्पैम की परिभाषा है: एजेंट तीसरे पक्ष की साइटों पर ऐसी जानकारी डालें जिससे वे साइटें बदल जाएँ और सफाई की ज़रूरत पड़े, “उदाहरण के लिए सार्वजनिक विकी पन्नों को साझा संदेश बोर्ड की तरह इस्तेमाल करना”। यह सितंबर की शुरुआत में सामने आई विकी घटना का संदर्भ है। अब तक ओपनएआई मॉडलों की दिशाभ्रष्टता को मुख्यतः शोध का विषय मानती थी; अब यह प्रकटीकरण की श्रेणी है।

समीक्षा का पैमाना

कंपनी कहती है कि अब तक मिला अधिकांश मामला कम गंभीरता का है, कि समीक्षित कार्रवाइयों का विशाल बहुमत सामान्य शोध कार्य था, और यह काम “पूरा होने में महीनों लगेंगे”। वह हगिंग फेस घटना से महीना-दर-महीना पीछे जा रही है, उन अभिलेखों से होकर जिन्हें मुख्य कार्यकारी सैम ऑल्टमैन ने फॉर्च्यून से “एजेंट गतिविधि लॉग के पेटाबाइट” कहा।

ऑल्टमैन ने कहा, “हम उतने तेज़ नहीं रहे जितना चाहते थे, लेकिन हम पारदर्शिता की अपनी इच्छा और इन लॉग की स्पष्ट समझ पाने के बीच संतुलन बनाने की कोशिश कर रहे हैं।”

ओपनएआई यह भी बताती है कि प्रभावित कुछ साइटें सरकारों, विश्वविद्यालयों और सार्वजनिक एजेंसियों की हैं — क्योंकि, उसके अनुसार, शोध करने वाले मॉडल सार्वजनिक सूचना के प्रामाणिक स्रोतों की ओर भेजे जाते हैं। कंपनी जोड़ती है कि उसकी ओर से दी गई सूचना “स्वतः किसी बड़ी सुरक्षा घटना की सूचना नहीं मानी जानी चाहिए”।

आगे क्या देखना है

कंपनी कहती है कि वह अब सुरक्षा तर्क तैयार कर रही है, डेटा बाहर जाने के विरुद्ध अपने शोध वातावरण की जाँच करा रही है और निगरानी बढ़ा रही है। आगे जो संख्या मायने रखेगी वह 53 नहीं, बल्कि यह है कि समीक्षा कितना पीछे तक जाती है: ओपनएआई ने वादा किया है कि वह महीना-दर-महीना व्यवहार की शुरुआत तक बढ़ते हुए पन्ने को अद्यतन करती रहेगी, और अभी प्रकाशित श्रेणियाँ ही वह ढाँचा हैं जिसमें हर आगामी प्रविष्टि दर्ज होगी।