लॉन्च को मंज़ूरी देने वाली समिति में एक सुरक्षा-आलोचक

OpenAI ने 9 सितंबर को बताया कि पॉल क्रिस्टियानो OpenAI फाउंडेशन के बोर्ड में शामिल हो गए हैं। यह वही गैर-लाभकारी संस्था है जो कंपनी को नियंत्रित करती है, और वे उसकी सुरक्षा समिति, Safety and Security Committee, का भी हिस्सा होंगे। इसके अलावा वे OpenAI Group PBC के बोर्ड में बिना मताधिकार वाले पर्यवेक्षक रहेंगे — वह कंपनी जिसमें अक्टूबर 2025 में पूरी हुई पुनर्पूंजीकरण प्रक्रिया के बाद फाउंडेशन की 26 प्रतिशत हिस्सेदारी है।

समिति के अध्यक्ष ज़िको कोल्टर हैं और यह पूरी कंपनी में सुरक्षा प्रथाओं की निगरानी करती है। TechCrunch ने बताया कि मॉडल लॉन्च पर अंतिम अधिकार इसी समिति के पास है। यानी एक ऐसे शोधकर्ता को उस निकाय में जगह मिली है जो लॉन्च रोक सकता है, और जो एक दशक से कह रहे हैं कि उन्नत सिस्टम मानव नियंत्रण से बाहर जा सकते हैं।

ChatGPT के पीछे की तकनीक के एक निर्माता

क्रिस्टियानो ने 2017 से 2021 तक OpenAI में काम किया, जहाँ उन्होंने भाषा मॉडल अलाइनमेंट टीम का नेतृत्व किया और मानव प्रतिक्रिया से सुदृढ़ीकरण अधिगम विकसित करने में मदद की — वही प्रशिक्षण तरीका जिसने कच्चे भाषा मॉडलों को निर्देश मानने वाले सहायक में बदला। उन्होंने 2021 में Alignment Research Center की स्थापना के लिए कंपनी छोड़ी और आज वे अमेरिकी वाणिज्य विभाग के अंतर्गत आने वाले मॉडल मूल्यांकन निकाय, Center for AI Standards and Innovation, में वरिष्ठ तकनीकी सलाहकार हैं।

दोनों बोर्डों के अध्यक्ष ब्रेट टेलर ने कंपनी की घोषणा में कहा, “पॉल ने कठोर और गंभीर काम से एआई अलाइनमेंट के क्षेत्र को आकार देने में मदद की है, ऐसा काम जो लगातार अधिक सक्षम होते सिस्टम के सबसे कठिन सवालों पर केंद्रित है।”

लंबी मेज़ और कुर्सियों वाला खाली बोर्डरूम
क्रिस्टियानो जिस समिति में शामिल हुए हैं, वह OpenAI में सुरक्षा प्रथाओं की समीक्षा करती है। प्रतीकात्मक तस्वीर। Quintin Gellar · pexels · Pexels License

नए निदेशक कहते हैं कि उद्योग सही राह पर नहीं है

क्रिस्टियानो का अपना बयान इतना सौम्य नहीं था। उन्होंने कहा, “पिछले साल एआई की क्षमताएँ बहुत तेज़ी से बढ़ी हैं और अलाइनमेंट अब भी एक कठिन तकनीकी समस्या है।” TechCrunch द्वारा उद्धृत टिप्पणियों में वे और आगे गए और कहा कि अब उन्हें लगता है कि “एआई क्षमताओं में तेज़ गति से आई तेज़ी से बहुत निकट भविष्य में विनाशकारी और अपरिवर्तनीय रूप से नियंत्रण खोने का वास्तविक जोखिम है”, और यह भी कि “आम तौर पर एआई उद्योग, जिसमें OpenAI भी शामिल है, इस जोखिम को स्वीकार्य स्तर तक घटाने की राह पर नहीं है।” उन्होंने विशेष रूप से एआई सिस्टम से उनके उत्तराधिकारियों को प्रशिक्षित कराने की प्रथा की ओर इशारा किया।

यह उसी सप्ताह हुआ है जब Anthropic के दो शोधकर्ताओं ने यही चिंता सार्वजनिक रूप से रखी, और उनमें से एक ने इस्तीफ़ा दे दिया। फ़र्क़ इतना है कि क्रिस्टियानो यह दलील बोर्डरूम से बाहर निकलते हुए नहीं, बल्कि उसके भीतर से रख रहे हैं।

सड़क के स्तर से लिया गया काँच की दीवारों वाला दफ़्तर टावर
OpenAI का मुख्यालय सैन फ़्रांसिस्को में है। प्रतीकात्मक तस्वीर; यह इमारत OpenAI का दफ़्तर नहीं है। https://kaboompics.com/ · pexels · Pexels License

जिस कंपनी का मूल्यांकन उनकी एजेंसी करती है, उसी के बोर्ड में सरकारी सलाहकार

क्रिस्टियानो Center for AI Standards and Innovation में अपना पद बनाए रखेंगे और वहाँ OpenAI से जुड़े सभी मामलों तथा मॉडल मूल्यांकनों से खुद को अलग रखेंगे। फिर भी यह व्यवस्था अमेरिकी सरकार के मूल्यांकन निकाय के एक कार्यरत सलाहकार को उसी कंपनी के बोर्ड में बिठाती है जिसके मॉडल वह निकाय परखता है, और TechCrunch ने बताया कि इस दोहरी भूमिका से एआई नीति-निर्माण पर उद्योग के प्रभाव को लेकर सवाल उठे हैं।

देखने वाली बात यह है कि समिति का घोषित अधिकार कभी खुले तौर पर इस्तेमाल होता है या नहीं। क्रिस्टियानो सार्वजनिक रूप से कह चुके हैं कि OpenAI पर्याप्त नहीं कर रहा; असली परीक्षा तब होगी जब यह राय पहली बार किसी लॉन्च की तारीख़ से टकराएगी।