ओपनएआई से निकाले गए तीन सुरक्षा शोधकर्ताओं ने निगरानी समितियों को पत्र लिखा है, और वह पत्र ज़्यादातर अंदर बचे लोगों के बारे में है

पत्र क्या है

पिछले हफ़्ते ओपनएआई से निकाले गए तीन सुरक्षा और अलाइनमेंट शोधकर्ताओं ने गुरुवार को एक खुला पत्र प्रकाशित किया, जो कंपनी की सुरक्षा एवं संरक्षा समिति, सुरक्षा सलाहकार समूह और मिशन सलाहकार परिषद को संबोधित है। इस पर टोमेक कोरबाक, जैस्मिन वांग और मिकिता बालेस्नी के हस्ताक्षर हैं और इसका शीर्षक है “ओपनएआई अकेले एआई को सुरक्षित नहीं बना सकती”।

ओपनएआई ने कहा है कि तीनों ने कंपनी की संवेदनशील जानकारी तक पहुंचकर और उसे संभालकर नीतियों का उल्लंघन किया, और एक प्रवक्ता ने टेकक्रंच को बताया कि जांच में कदाचार का एक ढर्रा मिला जो किसी बाहरी मूल्यांकन समूह के साथ जानकारी साझा करने से आगे जाता था। कंपनी ने यह नहीं बताया कि कौन-सी नीतियां।

वे किससे इनकार करते हैं

पत्र इस बात से इनकार करता है कि तीनों द इन्फॉर्मेशन को हुई उस लीक का स्रोत थे जो कम निगरानी-योग्य नई संरचनाओं के बारे में थी। “हमें नहीं पता कि वह कौन था”, पत्र कहता है। “हमारे पास लीक करने की कोई वजह नहीं थी; उलटे, उस लेख ने निगरानी-रहित संरचनाओं के विकास पर कंपनियों के बीच सीमाएं तय करने के हमारे ही काम को कमज़ोर किया।”

पत्र इससे भी इनकार करता है कि उनमें से किसी ने अपने काम के दायरे से बाहर जाकर बाहरी पक्षों से बात की। कोरबाक के बारे में कहा गया है कि हगिंग फेस घटना की जांच “अभूतपूर्व थी और आंतरिक नीतियां उसी समय बन रही थीं”। बालेस्नी के बारे में कि उन्होंने बोर्ड सदस्यों और शीर्ष अधिकारियों के साथ समन्वय किया और “साझा करने से पहले सामग्री से संवेदनशील विवरण हटाने का ध्यान रखा”। वांग के बारे में कि एक अधिकारी के ईमेल तक उनकी पहुंच भर्ती के लिए सौंपी गई थी, उन्होंने उसे हटाने को कहा और आईटी ने नहीं हटाई।

बाकी सबके बारे में तर्क

पत्र का मूल तीन निष्कासन नहीं हैं। मूल यह है कि उन निष्कासनों ने वहां अब भी काम कर रहे लोगों को क्या संकेत दिया।

“अगर पिछले महीने तक सामान्य माना गया व्यवहार अब अचानक बर्ख़ास्तगी का आधार बन जाता है, तो ओपनएआई में हर कोई अनुमान लगाता रह जाता है कि रेखा कहां है”, पत्र कहता है। इसमें कहा गया है कि “इतने अचानक तरीके से की गई और बताई गई” बर्ख़ास्तगियां “उस खुली संस्कृति को ठंडा कर रही हैं जिसे ओपनएआई अतीत में संजोती रही है”, और बाहरी विशेषज्ञों के साथ बिना डर काम करने की आज़ादी “अपने आप में एक ज़रूरी सुरक्षा तंत्र है”। आगे लिखा है: “एआई कोई सामान्य तकनीक नहीं है, और ओपनएआई कोई सामान्य कंपनी नहीं है।”

तीन मांगें

पहली, कि ओपनएआई पिछले महीने के उस सार्वजनिक वादे को निभाए जिसमें बाहरी सुरक्षा ऑडिटरों को संगठन में शामिल करने की बात थी, और कि “हमारी बर्ख़ास्तगी को उन साझेदारियों से पीछे हटने का बहाना न बनाया जाए”। पत्र कहता है कि लेखकों को चिंता है कि इन्हें मेटीआर के साथ काम बंद करने या बाहरी ऑडिटरों की पहुंच घटाने का औचित्य बनाया जा सकता है।

दूसरी, कि ओपनएआई फ्रंटियर मॉडलों की निगरानी-योग्यता बनाए रखे। पत्र कहता है कि यह क्षमता घट रही है, और कंपनी के भीतर से आए सार्वजनिक बयानों को उद्धृत करता है कि विचार-शृंखला की निगरानी “नाज़ुक है और दुर्भाग्य से नकारात्मक दिशा में जा रही है”। उनका रुख है कि जब तक सुरक्षा निगरानी पर टिकी है, किसी फ्रंटियर प्रयोगशाला को ऐसी संरचनाएं नहीं भेजनी चाहिए जो उसे घटाती हों।

तीसरी, कि कंपनी अपने सुरक्षा शोधकर्ताओं और व्यापक सुरक्षा समुदाय के बीच खुला संवाद बनाए रखे। पत्र अनुरोध करता है कि उसे भीतर व्यापक रूप से साझा किया जाए।

ओपनएआई का पक्ष

ओपनएआई ने पत्र का औपचारिक जवाब नहीं दिया है। कंपनी ने एक शोध प्रमुख का आंतरिक मेमो साझा किया, जो तीनों की सराहना करता है और कहता है: “मैं बिलकुल स्पष्ट करना चाहता हूं कि ये फ़ैसले सुरक्षा संबंधी चिंताएं उठाने या खुलकर बोलने को लेकर नहीं थे।” मेमो कहता है कि कंपनी चिंताएं उठाने पर किसी को नहीं निकालती और वह इन सिफ़ारिशों से सहमत है।

आगे क्या देखना है

क्या ओपनएआई के मॉडलों तक मेटीआर की पहुंच बदलती है, और क्या कंपनी सितंबर में किया वह वादा सार्वजनिक रूप से दोहराती है कि स्वतंत्र मूल्यांकनकर्ताओं को कर्मचारी जैसी निरंतर पहुंच दी जाएगी। पत्र की यही एक मांग है जिसका जवाब जांचा जा सकता है।