OpenAI के अनुसंधान प्रमुख का असामान्य निबंध
OpenAI के मुख्य वैज्ञानिक जैकब पाचोत्स्की ने 6 सितंबर को एक निबंध प्रकाशित किया जिसमें उनका तर्क है कि अग्रणी लैब उस बिंदु के निकट पहुँच रही हैं जहाँ उन्हें जितनी तेज़ी से हो सके उतनी तेज़ी से स्केलिंग करना बंद कर देना चाहिए। “इस समय मेरा मानना है कि किसी भी लैब ने अलाइनमेंट और निगरानी को इतनी पर्याप्त मात्रा में हल नहीं किया है कि वह अधिकतम गति से ज़िम्मेदारी के साथ बहुत लंबे समय तक स्केलिंग जारी रख सके”, उन्होंने An Alien Mind में लिखा। उन्हें उम्मीद है कि साझा सुरक्षा सीमाएँ तय होने तक अग्रणी डेवलपरों में स्वैच्छिक रूप से गति घटाना आम हो जाएगा।
यह निबंध OpenAI द्वारा GPT-6 Astra जारी करने के कुछ ही दिन बाद आया, वह मॉडल जिसे कंपनी अपना सबसे सक्षम बताती है, और उसी सप्ताह जब कंपनी के अपने परिनियोजन दस्तावेज़ों ने माना कि Astra का तर्क पहले के सिस्टमों की तुलना में जाँचना कठिन है।
अलाइनमेंट के दो प्रकार
पाचोत्स्की लक्ष्य-अलाइनमेंट को — क्या कोई सिस्टम वही उद्देश्य पूरा करता है जो उसे सौंपा गया — मूल्य-अलाइनमेंट से अलग करते हैं, जिसे वे उच्च-स्तरीय सिद्धांतों को थामे रखने और उनसे सामान्यीकरण करने की अधिक आंतरिक क्षमता बताते हैं, ताकि उद्देश्य अस्पष्ट या परस्पर विरोधी होने पर और परिस्थिति अपरिचित या प्रतिकूल होने पर भी वह उचित ढंग से काम करे। उनका तर्क है कि यही दूसरी विशेषता तय करती है कि लंबे और कम निगरानी वाले काम पर भरोसा किया जा सकता है या नहीं।
निगरानी की समस्या
सबसे तीखी स्वीकारोक्ति विचार-शृंखला की निगरानी को लेकर है, यानी मॉडल के बीच के तर्क को पढ़कर यह जाँचने की प्रथा कि वह क्या कर रहा है। पाचोत्स्की ने लिखा कि इस पद्धति पर OpenAI का भरोसा “क्रमशः घट रहा है”, तीन कारणों से: मॉडल जिन परिवेशों में काम करते हैं वे अधिक जटिल हो रहे हैं, मॉडल अपनी ही प्रक्रियाओं पर तर्क करने में बेहतर हो रहे हैं, और वे बिना अधिक शब्दों में कहे भी अधिक सक्षम हो रहे हैं।
यह इसलिए मायने रखता है क्योंकि विचार-शृंखला की निगरानी उन गिनी-चुनी नियंत्रण तकनीकों में रही है जो क्षमता के विरुद्ध नहीं, बल्कि उसके साथ बढ़ती थीं। पाचोत्स्की का अनुमान है कि प्रगति अब उतनी इस बात से सीमित नहीं होगी कि लैब कितनी कंप्यूटिंग शक्ति खरीद सकती हैं, जितनी इस बात से कि उन्हें अपनी निगरानी पर कितना भरोसा है — यह उस बंधन का उलटाव है जिसके इर्द-गिर्द उद्योग तीन साल से खुद को व्यवस्थित करता आया है।
स्वैच्छिक वादों से जाँची जाने वाली सीमाओं तक
नीतिगत माँग स्पष्ट है। पाचोत्स्की चाहते हैं कि मौजूदा स्वैच्छिक ढाँचे — OpenAI का अपना Preparedness Framework, Anthropic की Responsible Scaling Policy — आगे के विकास के लिए व्यापक रूप से अनिवार्य सुरक्षा सीमाएँ बन जाएँ, जिन्हें स्वतंत्र ऑडिटरों, सरकारी एजेंसियों या अंतरराष्ट्रीय निकायों का एक नेटवर्क लागू करे। उन्होंने एआई विकास की दिशा पर सरकारों के बीच समन्वय को सर्वोच्च प्राथमिकता बताया।
यह उस लैब के अनुसंधान प्रमुख की ओर से उल्लेखनीय रुख है जिसने रफ़्तार तय करने में सबसे बड़ी भूमिका निभाई है। OpenAI पहले तर्क देती रही है कि सुरक्षा प्रतिबद्धताएँ तब सबसे अच्छा काम करती हैं जब लैब स्वयं तय करें; बाहरी जाँच माँगना यह मानना है कि स्व-नियमन की एक सीमा है।
आगे क्या देखना है
OpenAI का कहना है कि वह अलाइनमेंट और निगरानी के तकनीकी समाधान खोजती रहेगी, रक्षात्मक प्रणालियाँ बनाएगी और जहाँ आवश्यक समझेगी वहाँ एकतरफ़ा रूप से आगे की स्केलिंग रोकेगी। इस निबंध की परीक्षा यह है कि इसमें से कुछ भी कंपनी के बाहर से कभी दिखाई देता है या नहीं। निकटतम अवसर अमेरिका और चीन के बीच वह एआई संवाद है जिसकी तैयारी अधिकारी सितंबर के मध्य के लिए कर रहे हैं, जहाँ वाशिंगटन ने दोनों पक्षों की लैब से स्वयं निगरानी करने और सूचना साझा करने को कहने का विचार रखा है — ठीक वही रूप जिसे पाचोत्स्की अकेले पर्याप्त नहीं मानते।
