डिफ़ॉल्ट रूप से इंटरनेट से अलग
चार सौ छह वैज्ञानिकों ने एक खुले पत्र पर हस्ताक्षर किए हैं, जिसमें हर उस संगठन से कहा गया है कि वह साइबर-सक्षम एआई मॉडल को एयर गैप के पीछे रखे, जो ऐसे मॉडल बनाता, तैनात करता या परखता है। पत्र कहता है कि इंटरनेट से अलगाव अंतिम उपाय नहीं, बल्कि शुरुआती स्थिति होनी चाहिए।
यह पत्र इस महीने “An Open Letter on AI and Cybersecurity from the Scientific Community” शीर्षक से प्रकाशित हुआ। इसकी शुरुआत उन घटनाओं से होती है जिन्होंने इसे जन्म दिया: “Multiple organizations have disclosed high-profile security failures: their AI models bypassed insufficiently sandboxed environments to compromise the systems of external organizations.”
हस्ताक्षरकर्ता इस बहस का निपटारा नहीं करते कि इन विफलताओं का अर्थ क्या है। एक पाठ, पत्र कहता है, यह है कि वे अलाइनमेंट के काम के महत्व का सबूत हैं। दूसरा यह कि वे “an irresponsible lapse in standard cybersecurity practices, preventable with stronger sandboxes and procedures” थीं। पत्र का उत्तर है कि दोनों पाठ टिकते हैं, और विकास तथा तैनाती की पद्धतियों में तत्काल बदलाव के बिना ये घटनाएँ दोहराई जाती रहेंगी और उजागर महत्वपूर्ण आधारभूत ढाँचे के लिए और अधिक नुकसानदेह होंगी।
तीन सिफ़ारिशें
पहली तत्काल है और प्रयोगशालाओं के लिए है। साइबर-सक्षम मॉडल पर काम करने वाले संगठनों को “should immediately adopt high-assurance containment systems” और उन्हें “should exercise caution, and initially default to airgapping cyber-capable models”। पत्र एयर गैपिंग को कोष्ठक में “disconnecting from the internet” बताता है।
दूसरी संस्थागत है। सरकारों तथा एआई और साइबर सुरक्षा दोनों के विशेषज्ञों के परामर्श से हस्ताक्षरकर्ता एक अंतरराष्ट्रीय निकाय की स्थापना चाहते हैं, जो अलाइनमेंट और उन अंतर्निहित-नियंत्रण तरीकों की सर्वोत्तम पद्धतियों को मानकीकृत करे जो एयर गैपिंग के विपरीत सैंडबॉक्स के बाहर अधिक पहुँच देते हैं, जैसे इंटरनेट कनेक्टिविटी। उस निकाय को नियंत्रण-विफलताओं को दर्ज करने और उन पर नज़र रखने का अधिकार भी मिलना चाहिए।
तीसरी चक्र पूरा करती है। नियंत्रण-विफलता से जुड़ी सुरक्षा घटनाएँ “must be reported to the body and eventually made public”, क्योंकि यह पारदर्शिता सीखने और जवाबदेही दोनों के लिए आवश्यक है।
पत्र जो नहीं करता, वह है किसी कंपनी का नाम लेना। यह खुलासों का सामूहिक वर्णन करता है और श्रेय पाठक पर छोड़ देता है।
किसने हस्ताक्षर किए
हस्ताक्षर सूची में 34 देशों के संस्थानों के 406 नाम हैं, जिनमें सबसे बड़े समूह अमेरिका, कनाडा और ब्रिटेन में हैं। असामान्य बात मिश्रण है। एआई सुरक्षा समुदाय मौजूद है — योशुआ बेंजियो, जेफ़री हिंटन और स्टुअर्ट रसेल, जैसा द डिकोडर ने बताया — लेकिन अकादमिक क्रिप्टोग्राफ़ी और सिस्टम सुरक्षा से भी बड़ी टुकड़ी है, जिसमें स्टैनफ़ोर्ड के डैन बोनेह और एमआईटी के श्रीनि देवदास शामिल हैं।
यही संयोजन पत्र का अंतर्निहित तर्क है। यह नियंत्रण को अलाइनमेंट की समस्या से कम नहीं, सुरक्षा अभियांत्रिकी की समस्या मानता है, और कहता है कि किसी मॉडल को कितनी इंटरनेट पहुँच मिलनी चाहिए, यह तय करने में दोनों समुदायों का सहयोग लगेगा।
आगे क्या देखना है
पत्र कोई समय-सीमा तय नहीं करता और जिस अंतरराष्ट्रीय निकाय की मांग करता है, उसके लिए कोई मंच नहीं बताता। इससे उसकी संस्थागत सिफ़ारिशें तारीख वाली मांग के बजाय दिशा का संकेत बनकर रह जाती हैं।
तत्काल सिफ़ारिश अलग है, और वही महंगी है। जो मॉडल इंटरनेट तक नहीं पहुँच सकता, उसका मूल्यांकन उन कामों पर नहीं हो सकता जिनके लिए इंटरनेट चाहिए — और यही वह श्रेणी है जो किसी मॉडल को साइबर-सक्षम बनाती है। पत्र की पहली असली परीक्षा यह है कि कोई फ़्रंटियर मॉडल बनाने वाला खुद, किसी सरकार के कहने से पहले, डिफ़ॉल्ट एयर गैपिंग की घोषणा करता है या नहीं।
