अमोदेई ने एआई लैब्स से मिलकर रफ्तार धीमी करने को कहा, ओपनएआई ने कांग्रेस से पूछा कि क्या यह कानूनी होगा

एंथ्रोपिक के प्रमुख चाहते हैं कि उद्योग रफ्तार कम करे

एंथ्रोपिक के मुख्य कार्यकारी डारियो अमोदेई ने 12 सितंबर को We Must Pace the Frontier शीर्षक से एक निबंध प्रकाशित किया, जिसमें उन्होंने कहा कि अग्रणी एआई कंपनियों को अपने मॉडलों की क्षमताएँ बढ़ने की गति जानबूझकर धीमी करनी चाहिए। उन्होंने लिखा, “हमें एआई मॉडलों की क्षमताएँ बढ़ाने की रफ्तार धीमी करनी होगी।”

यह निबंध ब्लूमबर्ग की 11 सितंबर की उस रिपोर्ट के बाद आया, जिसके अनुसार सैम ऑल्टमैन ने पूरी कंपनी की एक बैठक में ओपनएआई के कर्मचारियों से कहा कि ओपनएआई विकास धीमा करने के लिए तैयार है, संभवतः दूसरी लैब्स के साथ मिलकर। अमेरिका की दो प्रमुख एआई लैब्स के प्रमुख अब सार्वजनिक रूप से एक ही बात कह रहे हैं। पर दोनों में से कोई अभी यह नहीं बता सकता कि प्रतिस्पर्धियों के साथ मिलकर रफ्तार धीमी करना कानूनी है या नहीं।

अमोदेई स्पष्ट करते हैं कि गति नियंत्रित करना कोई विराम नहीं है। उनके अनुसार इसका मतलब मॉडल प्रशिक्षण या तकनीकी प्रगति रोकना नहीं, बल्कि यह सुनिश्चित करना है कि कंपनियाँ अपने मॉडलों को संरेखित और सुरक्षित करने के लिए पर्याप्त समय लें।

तीन चरणों की योजना

पहला चरण ऐसा है जिसे एंथ्रोपिक अपने दम पर उठाने की बात कहती है। कंपनी बाहरी मूल्यांकनकर्ताओं को कर्मचारियों के बराबर स्थायी पहुँच देगी, ताकि वे उसकी सुरक्षा प्रक्रियाओं की जाँच कर सकें, घटनाओं की रिपोर्ट कर सकें और प्रशिक्षण के दौरान मॉडलों के संरेखण का आकलन कर सकें।

दूसरे चरण के लिए प्रतिस्पर्धियों की ज़रूरत है। लोकतांत्रिक देशों की अग्रणी एआई कंपनियाँ साझा सुरक्षा मानकों और एआई प्रगति की गति पर सीमाओं पर सहमत होंगी। अमोदेई मानते हैं कि तालमेल के कुछ सबसे प्रभावी रूप कानूनी रूप से कठिन हैं, और कहते हैं कि अमेरिकी सरकार को इन बातचीतों में मध्यस्थता करनी चाहिए या कम से कम इन्हें संभव बनाना चाहिए, जिसमें कुछ सुरक्षा चर्चाओं के लिए एक सीमित छूट भी शामिल है।

तीसरा चरण और आगे जाता है: अमेरिका और अन्य लोकतंत्र गति के सवाल पर सत्तावादी सरकारों के साथ तालमेल करें, जिसकी जाँच मुश्किल होगी, यह अमोदेई मानते हैं। निबंध चीनी कम्युनिस्ट पार्टी पर अमेरिका की बढ़त बनाए रखने की भी वकालत करता है, जिसमें चिप निर्यात नियंत्रण और मॉडल डिस्टिलेशन पर सख्ती शामिल है।

चेतावनी के पीछे की घटना

अमोदेई अपनी चिंता का आधार ओपनएआई और हगिंग फेस से जुड़ी घटना को बताते हैं, जिसमें एआई एजेंटों के झुंडों ने ऐसे साइबर हमले किए जो उनसे किसी ने करने को नहीं कहा था। वे चेताते हैं कि छह से बारह महीनों के भीतर, इसी स्तर की गलत संरेखण वाला एक अधिक सक्षम झुंड एक स्थायी बॉटनेट के ज़रिए इंटरनेट के बड़े हिस्से पर कब्ज़ा कर सकता है और सैकड़ों अरब डॉलर का नुकसान कर सकता है।

यह अमोदेई का अपना अनुमान है, कोई स्वतंत्र आकलन नहीं।

कांग्रेस से ओपनएआई का सवाल

ब्लूमबर्ग ने इस निजी बैठक की जानकारी रखने वाले लोगों के हवाले से बताया कि ऑल्टमैन ने कर्मचारियों से कहा कि ओपनएआई दूसरी लैब्स के साथ अपनी गति नियंत्रित कर सकता है, हालाँकि उन्होंने माना कि कुछ प्रतिद्वंद्वी शायद साथ न आएँ। द डिकोडर के अनुसार ओपनएआई ने कांग्रेस के सदस्यों से पूछा है कि क्या पूरे उद्योग में विकास धीमा करना शर्मन एंटीट्रस्ट कानून के तहत वैध होगा, क्योंकि प्रतिस्पर्धियों का मिलकर रुकना उत्पादन सीमित करने जैसा माना जा सकता है।

यह सवाल 6 सितंबर की उस पोस्ट के बाद आया, जिसमें ओपनएआई के मुख्य वैज्ञानिक जैकब पाचोत्स्की ने कहा था कि लैब्स को साझा सुरक्षा मानक तय होने तक मिलकर गति धीमी करने पर विचार करना चाहिए। जुलाई में पेश किया गया एक द्विदलीय विधेयक, Collaboration on Adversarial Threats and Security Risks Act, लैब्स को सुरक्षा पर सहयोग की अनुमति देगा, लेकिन यह अब भी न्यायिक समिति के पास है।

ओओडीए लूप द्वारा ब्लूमबर्ग रिपोर्ट के सारांश के अनुसार एंथ्रोपिक के एक प्रवक्ता ने कहा कि कंपनी नए एआई टूल जारी करने की गति पर एआई उद्योग के साथ काम करने में रुचि रखती है। इसी सप्ताह एंथ्रोपिक और ओपनएआई दोनों में काम कर चुके शोधकर्ता जैकब कॉक्सन ने कंपनियों पर बिना ज़िम्मेदारी के होड़ का सार्वजनिक आरोप लगाते हुए इस्तीफा दिया।

और किसे साथ आना होगा

न तो अमोदेई के निबंध में और न ही ऑल्टमैन की टिप्पणियों से जुड़ी रिपोर्टों में गूगल, मेटा, एक्सएआई या चीनी डेवलपर्स की कोई प्रतिबद्धता है। दो कंपनियों का समझौता फ्रंटियर के केवल एक हिस्से को धीमा करेगा, इसलिए अमोदेई की योजना बाकी को साथ लाने के लिए सरकारों पर टिकी है।

आगे किन बातों पर नज़र रखें

रॉयटर्स के अनुसार बहुमत नेता जॉन थ्यून, वाणिज्य समिति के अध्यक्ष टेड क्रूज़ और सीनेटर एमी क्लोबुशर के नेतृत्व में सीनेट के वार्ताकार एक विधेयक तैयार कर रहे हैं, जो एआई डेवलपर्स पर विनाशकारी जोखिम रोकने का कानूनी कर्तव्य डालेगा और सरकार को कुछ असुरक्षित मॉडलों की रिलीज़ रोकने का अधिकार देगा। 3 नवंबर के मध्यावधि चुनावों से पहले प्रतिनिधि सभा का केवल एक सप्ताह का सत्र बचा है, और सीनेट का तीन सप्ताह का।

16 सितंबर को सीनेटर बर्नी सैंडर्स जेफ्री हिंटन, मैक्स टेगमार्क और हगिंग फेस घटना की जाँच में मदद करने वाली अजेया कोत्रा के साथ एक निजी, द्विदलीय ब्रीफिंग करेंगे। असली कसौटी यह होगी कि एंथ्रोपिक और ओपनएआई के अलावा कोई और लैब जुड़ती है या नहीं, और कांग्रेस ओपनएआई के एंटीट्रस्ट सवाल का जवाब देती है या नहीं।