जो व्यक्ति यह सार्वजनिक ब्योरा लिखता था कि ओपनएआई के मॉडल क्या कर सकते हैं, उसने कंपनी छोड़ दी है

काम था जोखिम को समझाना

डेविड रॉबिन्सन ने ओपनएआई छोड़ दिया है; कंपनी ने शुक्रवार को बिज़नेस इनसाइडर को इसकी पुष्टि करते हुए कहा कि वे पिछले सप्ताह गए। रॉबिन्सन सेफ्टी सिस्टम्स टीम में काम का नेतृत्व करते थे और इससे पहले कंपनी में नीति नियोजन संभाल चुके थे।

वे जो चलाते थे वह पद से अधिक मायने रखता है। रॉबिन्सन का दायरा सिस्टम कार्ड को कवर करता था — वे तकनीकी दस्तावेज़ जो कोई प्रयोगशाला अपने मॉडल के साथ प्रकाशित करती है और जिनमें बताया जाता है कि उसकी क्या जाँच हुई, वह क्या कर सकता है और कहाँ चूकने के लिए जाना जाता है — और जोखिमों तथा घटनाओं पर ओपनएआई के सार्वजनिक प्रकटीकरण। यही वह कार्य है जो आंतरिक मूल्यांकन को ऐसे वाक्य में बदलता है जिसे बाहरी व्यक्ति जाँच सके।

ओपनएआई ने यह नहीं बताया कि वे क्यों गए, और रॉबिन्सन ने सार्वजनिक रूप से कुछ नहीं कहा है।

चार दिन पहले, तीन बर्खास्तगियाँ

यह प्रस्थान ओपनएआई द्वारा तीन सुरक्षा शोधकर्ताओं — जैस्मीन वांग, टॉमेक कोरबाक और मिकिता बालेस्नी — से नाता तोड़ने के चार दिन बाद आया है, जिन्हें वॉल स्ट्रीट जर्नल की रिपोर्ट के अनुसार कथित रूप से गोपनीय जानकारी, जिसमें कंपनी की आधारभूत संरचना का विवरण शामिल था, एक बाहरी एआई सुरक्षा संगठन के साथ साझा करने के लिए हटाया गया।

उपलब्ध तथ्यों पर ये दो अलग घटनाएँ हैं। एक इस्तीफ़ा है, दूसरी बर्खास्तगियाँ हैं, और प्रकाशित सामग्री में कैलेंडर के अलावा इन्हें कुछ नहीं जोड़ता। साझा केवल यह है कि वे कंपनी के किस हिस्से से आती हैं।

क्रिप्टो ब्रीफिंग की गिनती के अनुसार लगभग दो वर्षों में कम से कम छह वरिष्ठ सुरक्षा-केंद्रित व्यक्ति ओपनएआई छोड़ चुके हैं। यह आंकड़ा रिपोर्टिंग से जुटाया गया है, कंपनी के किसी प्रकटीकरण से नहीं, और यह इस पर निर्भर है कि “वरिष्ठ” की रेखा कहाँ खींची जाए — पर दिशा पर विवाद नहीं है।

जो रिपोर्टिंग लाइन बदली

इसके नीचे का ढाँचागत बदलाव इस सप्ताह से पुराना है। योहानेस हाइडेके, जो पहले सुरक्षा प्रणालियों के प्रमुख थे, जुलाई में चले गए। उसके बाद ओपनएआई ने अपनी सुरक्षा टीमों को अनुसंधान संगठन में मिला दिया, और संयुक्त समूह अब अनुसंधान एवं सुरक्षा की उपाध्यक्ष मिया ग्लेज़ को रिपोर्ट करता है।

यह विलय अपने तर्क पर बचाव योग्य है: जो सुरक्षा कार्य मॉडल बनाने वालों के पास बैठता है उसकी पहुँच बेहतर होती है, और अलग सुरक्षा संगठन ऐसा विभाग बन सकता है जो ऐसे ज्ञापन लिखे जिन्हें कोई नहीं पढ़ता। इसका अर्थ यह भी है कि जो कार्य यह प्रकाशित करता है कि मॉडल कहाँ ग़लत होता है, वह अब उसी अधिकारी के रास्ते रिपोर्ट करता है जिसके रास्ते उसे बाज़ार में भेजने वाला कार्य।

यह मायने रखेगा या नहीं, यह पूरी तरह इस पर निर्भर है कि प्रकटीकरण पतले होते हैं या नहीं। यह जाँचने योग्य प्रश्न है, और जाँच स्वयं प्रकाशित होती है।

यह विशेष भूमिका भार क्यों उठाती है

किसी अग्रिम मॉडल का आकलन करते समय बाहरी शोधकर्ता, नियामक या पत्रकार के पास काम करने को लगभग केवल सिस्टम कार्ड ही होते हैं। प्रयोगशालाएँ न अपने वेट खोलती हैं न अपने मूल्यांकन ढाँचे। वे जो प्रकाशित करती हैं वह अपने बारे में स्वयं लिखा दस्तावेज़ है, और उसकी उपयोगिता इस पर निर्भर करती है कि उसे कौन लिख रहा है और उसे कितनी जगह मिली है।

ठीक इसी सतह पर ओपनएआई के लिए पिछले दो सप्ताह व्यस्त रहे हैं। उसने अपने ही एजेंटों से जुड़ी एक दिशाभ्रम घटना बताई, कहा कि उसने निर्देशों से बाहर एजेंट गतिविधि को लेकर 100 से अधिक संगठनों को सूचित किया, और उसे कैलिफ़ोर्निया के अटॉर्नी जनरल से उसके मॉडलों से जुड़ी साइबर सुरक्षा घटनाओं पर जाँच समन मिला। ये तीनों प्रकटीकरण के प्रश्न हैं।

देखने की बात अगला सिस्टम कार्ड है। यह नहीं कि वह आएगा या नहीं — आएगा — बल्कि यह कि सीमाओं वाला हिस्सा पिछली बार जितना लंबा है या नहीं।