समझौता क्या है
एंथ्रोपिक ने गुरुवार को बताया कि उसने एक्सेंचर की विशेषज्ञ एआई इकाई फैकल्टी को अपना पहला अंतर्निहित मूल्यांकनकर्ता चुना है। फैकल्टी का काम होगा “मॉडलों का मूल्यांकन और रेड-टीमिंग, अलाइनमेंट आकलन और मॉडल की सुरक्षा युक्तियों की जाँच”। दोनों कंपनियों का कहना है कि वे अगले पाँच वर्षों में इस क्षमता के निर्माण पर कम से कम एक-एक अरब डॉलर निवेश करने की उम्मीद रखती हैं।
सबसे बड़ा अंतर पहुँच का है। आज बाहरी मूल्यांकनकर्ता किसी मॉडल को देर से देखते हैं, एक एपीआई के ज़रिए और तय अवधि तक। एंथ्रोपिक के विवरण के अनुसार अंतर्निहित मूल्यांकनकर्ता कंपनी के भीतर काम करते हैं और उन्हें कर्मचारी जैसी पहुँच मिलती है: वे प्रशिक्षण के दौरान मॉडल को बनते देख सकते हैं, उन फैसलों को देख सकते हैं जिनसे तय होता है कि मॉडल कैसे बने और कैसे जारी हो, और कर्मचारियों से सीधे बात कर सकते हैं।
एक्सेंचर ने फैकल्टी को जनवरी में खरीदा था। घोषणा के बाद कारोबार समाप्ति के बाद के सत्र में उसका शेयर लगभग 8 प्रतिशत चढ़ा।
बहुचर्चित विचार की पहली परीक्षा
रफ्तार धीमी करने पर एक महीने की अमूर्त बहस के बीच अंतर्निहित मूल्यांकन ही ठोस प्रस्ताव रहा है। डारियो अमोदेई ने प्रयोगशालाओं से कहा था कि वे मिलकर अग्रिम मोर्चे की गति तय करें; सैम ऑल्टमैन ने 13 सितंबर को ओपनएआई को अंतर्निहित सुरक्षा मूल्यांकनकर्ताओं के लिए प्रतिबद्ध किया; और ओपनएआई, एंथ्रोपिक तथा गूगल डीपमाइंड फिनरा की तर्ज पर एक स्व-नियामक मानक निकाय पर बात कर रहे हैं।
इन वादों में यह पहला है जिसमें एक साझेदार का नाम और एक आँकड़ा दोनों हैं।
एंथ्रोपिक ने साफ किया है कि यह समझौता विशिष्ट नहीं है। कंपनी का कहना है कि वह मेट्र और अन्य गैर-लाभकारी संस्थाओं से भी बात कर रही है, ताकि वे अपने ही पैसे से अंतर्निहित मूल्यांकन के प्रयोग शुरू कर सकें।
आपत्ति
यह चुनाव उन लोगों को चौंकाने वाला लगा जो किसी सुरक्षा शोध संस्था की उम्मीद कर रहे थे। अंतर्निहित मूल्यांकनकर्ताओं पर सार्वजनिक बहस मेट्र, रेडवुड रिसर्च और अपोलो रिसर्च के इर्द-गिर्द रही है — छोटी संस्थाएँ जिनका एकमात्र काम मॉडलों की जाँच है। एक्सेंचर एक परामर्श कंपनी है जिसका कारोबार कंपनियों और सरकारों को एआई अपनाने में मदद करना है, जिसमें संभवतः एंथ्रोपिक की एआई भी शामिल है।
एंथ्रोपिक का उत्तर है कि एक्सेंचर के पास बड़े संगठनों में बड़े पैमाने पर एआई लागू करने का व्यावहारिक अनुभव है, और मौजूदा एआई उद्योग से पुरानी एक सूचीबद्ध कंपनी होने से उसे वह मिलता है जिसे एंथ्रोपिक अपने ही तंत्र से “कार्यात्मक स्वतंत्रता” कहता है।
आलोचक इस योजना को अलग तरह से पढ़ते हैं: जिस सुरक्षा व्यवस्था को प्रयोगशालाएँ खुद बनाएँ, खुद वित्त दें और खुद कर्मचारी दें, वह जवाबदेही स्वीकारने के बजाय उससे पहले ही बच निकलने का तरीका है। एंथ्रोपिक का जवाब है कि “हमारे मॉडलों की सुरक्षा हमारी ही जिम्मेदारी बनी रहती है” और मूल्यांकनकर्ता उस जिम्मेदारी को घटाते नहीं, उसे जाँचने योग्य बनाते हैं। कोहेयर के मुख्य कार्यकारी एडन गोमेज़ ने इस सप्ताह तीनों बड़ी प्रयोगशालाओं की मानक-मुहिम को दूसरे नाम का कार्टेल बताया था।
अब भी क्या कमी है
एंथ्रोपिक की अपनी घोषणा इन कमियों को लेकर स्पष्ट है। अभी कोई मानक नहीं है कि अंतर्निहित मूल्यांकनकर्ता को किस जानकारी तक पहुँच मिलनी चाहिए, या उसे अपने निष्कर्ष किस तरह बताने चाहिए। स्वतंत्र मूल्यांकन के वित्तपोषण का भी कोई तय ढाँचा नहीं है: फिलहाल एंथ्रोपिक सीधे एक्सेंचर को भुगतान कर रहा है और कहता है कि दीर्घकाल में यह पैसा साझा कोषों या सरकारी स्रोतों से आना चाहिए, न कि उस कंपनी से जिसका मूल्यांकन हो रहा है।
यही सवाल यह समझौता खुला छोड़ता है। जिस प्रयोगशाला का मूल्यांकन हो रहा हो, उसी से भुगतान पाने वाले मूल्यांकनकर्ता के साथ स्पष्ट दिक्कत है, और दोनों पक्ष यह मानते हैं। कैलिफोर्निया का 18 सितंबर का कार्यकारी आदेश और अमेरिकी प्रतिनिधि सभा में विचाराधीन फ्रंटियर अधिनियम, दोनों इस भूमिका का कानूनी रूप सोचते हैं। देखने की बात यह है कि शर्तें पहले स्वैच्छिक व्यवस्था तय करती है या नहीं।
