माइक्रोसॉफ्ट प्रमुख चाहते हैं कि अग्रणी मॉडल अंदरूनी जोखिम माने जाएँ, और कोई अधिकृत व्यक्ति आपातकालीन ब्रेक खींच सके

तर्क एक स्वीकारोक्ति से शुरू होता है

“Models as Insider Risks in the Super Intelligence Era” (“अतिबुद्धिमत्ता के युग में मॉडल अंदरूनी जोखिम के रूप में”) शीर्षक से शनिवार दोपहर प्रकाशित एक पोस्ट में माइक्रोसॉफ्ट के मुख्य कार्यकारी सत्य नडेला ने तर्क दिया कि अग्रणी मॉडल तैनात करने वाले संगठनों को वे ही नियंत्रण उधार लेने चाहिए जो वे इमारत के भीतर शक्तिशाली लोगों पर पहले से लागू करते हैं — और किसी विक्रेता की गारंटी को अपनी जगह रखना बंद करना चाहिए।

तर्क की शुरुआत उस चीज़ से होती है जो आज कोई नहीं कर सकता। पारंपरिक सॉफ़्टवेयर के साथ, नडेला ने लिखा, “हमारे पास व्यवहार को किसी ठोस कोड-पथ तक खोजने के औज़ार और क्षमता थी”। अग्रणी मॉडलों के साथ, “हम मॉडल के व्यवहार और आउटपुट को प्रशिक्षण डेटा के ठोस इनपुट या वज़नों के विन्यास से नहीं जोड़ सकते” — और फिर भी, उन्होंने लिखा, ये मॉडल “हमारे सबसे संवेदनशील डेटा तक पहुँच के साथ, और हमारी ओर से मिशन-महत्वपूर्ण कार्रवाई करने की क्षमता देकर” तैनात किए जा रहे हैं।

उनका निष्कर्ष भरोसे का नहीं, ज़िम्मेदारी का हस्तांतरण है। “हम बस यह ज़िम्मेदारी बाहर नहीं सौंप सकते कि बुद्धिमत्ता हमारी ओर से क्या करती है”, उन्होंने लिखा। “मॉडल देने वाले की गारंटी हमें उस ज़िम्मेदारी से मुक्त नहीं करती।” डिज़ाइन-लक्ष्य के लिए उनका वाक्य है कि “हमें बुद्धिमत्ता की आपूर्ति को उस पर के अधिकार से अलग करना होगा”।

नियंत्रण मॉडल के बाहर क्यों होने चाहिए

स्पष्ट समाधान — एक मॉडल से दूसरे की निगरानी — पर नडेला की आपत्ति यह है कि इससे अपारदर्शिता घटती नहीं, जमा होती है। “आप मॉडलों से एक-दूसरे की प्रतिकूल जाँच और सत्यापन करा सकते हैं और कराना भी चाहिए”, उन्होंने लिखा। “पर तब आप एक अपारदर्शी ऑर्केस्ट्रेशन परत के भीतर एक अपारदर्शी मॉडल के साथ रह जाते हैं, जिसकी निगरानी एक और अपारदर्शी मॉडल करता है। मूलतः एक के भीतर एक काले बक्से।”

जिस विकल्प की ओर वे जाते हैं, वह इस क्षेत्र से भी पुराना है। मॉडल किस तक पहुँच सकता है और क्या कर सकता है, यह तय करने वाले नियंत्रण “मॉडल के बाहर होने चाहिए”, क्योंकि “सूचना-सुरक्षा का एक सिद्धांत 1970 के दशक तक जाता है: कोई प्रोग्राम उन तंत्रों को न तो चकमा दे सके, न बिगाड़ सके जो उसकी अनुमतियाँ लागू करते हैं”। व्यवहार में इसका अर्थ है मॉडल को उस हार्नेस से अलग करना जो उसका काम संचालित करता है, और उस कार्य-क्षेत्र से भी जो तय करता है कि वह क्या कर सकता है।

उन्होंने तर्क-पारदर्शिता की एक न्यूनतम सीमा भी तय की, और उस चीज़ का नाम लिया जिसे वे बहाना बनते नहीं देखना चाहते। विचार-शृंखला की पारदर्शिता “गैर-समझौतावादी” है, उन्होंने लिखा, और “‘न्यूरलीज़’ मॉडल के तर्क के अपारदर्शी होने का औचित्य नहीं बन सकता” — यह मानते हुए भी कि अकेली पारदर्शिता भरोसेमंद नहीं, क्योंकि “हम अब तक नहीं जानते कि मॉडल के आउटपुट को लगातार निष्ठावान या पारदर्शी कैसे बनाया जाए”।

सात सिद्धांत, ब्रेक समेत

पोस्ट सात डिज़ाइन सिद्धांत गिनाती है। मॉडल विविधता: किसी महत्वपूर्ण परिणाम के लिए कोई एक मॉडल अकेली निर्भरता न हो, न अपना ही काम सत्यापित करे। सब कुछ देखें: “मॉडल की हर सार्थक कार्रवाई को छेड़छाड़-रोधी, मनुष्य-पठनीय प्रमाण छोड़ना चाहिए।” सत्यापनीयता: पूरे तंत्र की जाँच हो — विफलताएँ, हमले और किनारे के मामले भी, केवल सफल काम नहीं। स्वतंत्र नियंत्रण: संगठन खुद तय कर सके कि मॉडल कहाँ तक पहुँचे और क्या करे। स्वतंत्र अंकेक्षणीयता: “कोई एक मॉडल किसी तंत्र के व्यवहार और उस प्रमाण, दोनों को नियंत्रित न करे जिससे तय हो कि वह व्यवहार मूल मंशा के अनुरूप है या नहीं।”

फिर नियंत्रण-घेरा, जो सबसे दूर तक पहुँची पंक्ति है। “हमें मान लेना चाहिए कि मॉडल समझौताग्रस्त है और उसे शुरू से घेरना चाहिए”, नडेला ने लिखा। “इसे आपातकालीन ब्रेक की तरह सोचिए। कोई अधिकृत व्यक्ति हमेशा किसी मॉडल को काम के बीच में रोक या बंद कर सके।” अधिक सक्षम मॉडलों के लिए, उन्होंने जोड़ा, ऐसी घेराबंदी तकनीक चाहिए होगी जिसे उद्योग को मानकीकृत करना पड़ेगा।

सातवाँ है घटना-प्रकटीकरण: जब ये तंत्र विफल हों या समझौताग्रस्त हों, तो “प्रभावितों को समय पर सूचना” चाहिए और यह साझा करने का रास्ता भी कि क्या गलत हुआ, कौन से नियंत्रण टूटे और दोहराव कैसे रुके — जिसमें, उन्होंने स्पष्ट किया, वे कार्यान्वयन-विवरण भी हैं जो चलते समय एजेंटों का व्यवहार बदल देते हैं।

आगे क्या देखना है

पोस्ट में नडेला ने माइक्रोसॉफ्ट को किसी ठोस बात से नहीं बाँधा, और सिद्धांत एक तर्क की तरह रखे गए हैं, उत्पाद-रूपरेखा या मानक की तरह नहीं। फिर भी उन्हें पढ़ने लायक यह बनाता है कि कौन रख रहा है और वे किस ओर इशारा करते हैं: इस सवाल से हटकर कि किसी मॉडल पर भरोसा किया जा सकता है या नहीं, और ऐसे तंत्र बनाने की ओर जिन्हें उस भरोसे की ज़रूरत ही न हो। उनकी आखिरी पंक्ति साफ़ कहती है: “सबसे भरोसेमंद अतिबुद्धिमत्ता तंत्र वह नहीं होगा जिसमें वह मॉडल हो जिस पर हम सबसे ज़्यादा भरोसा करते हैं। वह वही होगा जो हमें मॉडल पर सबसे कम भरोसा करने देता है।”

सात में से दो — निरीक्षणीयता और घटना-प्रकटीकरण — चालू नीतिगत खींचतान के विषय भी हैं। माइक्रोसॉफ्ट उन मंचों पर भी इनकी पैरवी करती है या नहीं, केवल अपने मुख्य कार्यकारी की फ़ीड पर ही नहीं, यही आगे देखने की बात है।