मेटा अपने नए मॉडल के लिए रासायनिक और जैविक उच्च जोखिम से इनकार नहीं करता, और कहता है कि शमन उपायों ने ही उसे रिलीज़ की मंज़ूरी दिलाई

वह सीमा जिसे मेटा नकारता नहीं

मेटा ने सोमवार को Muse Wonder के साथ जो मॉडल कार्ड प्रकाशित किया, उसमें एक वाक्य दबा हुआ है जो लॉन्च पोस्ट में नहीं है: “शमन उपायों के बिना, हम इस संभावना को नहीं नकारते कि मॉडल रासायनिक और जैविक क्षेत्र में इस सीमा तक पहुँच जाए।”

यह सीमा मेटा के सुपरइंटेलिजेंस स्केलिंग फ़्रेमवर्क का “उच्च जोखिम” स्तर है, जो अब संस्करण 2.1 में है और इसी महीने का है। मॉडल यह सीमा तब पार करता है जब “फ्रंटियर एआई की तैनाती किसी भी ऐसे खतरे की स्थिति में पर्याप्त योगदान दे सके जो विनाशकारी परिणाम से जुड़ी हो”। फ़्रेमवर्क की अपनी तालिका के अनुसार उस स्तर पर पहुँचना रिलीज़ नहीं रोकता: यह मॉडल को “शमन के साथ तैनात करें” श्रेणी में डालता है, जो तैनाती की अनुमति “केवल तब देती है जब पर्याप्त शमन उपाय तय, लागू और सत्यापित हों ताकि जोखिम घटकर मध्यम या उससे कम स्तर के मॉडल जितना रह जाए”।

मेटा ने यही रास्ता लिया। कार्ड कहता है कि कंपनी रासायनिक और जैविक क्षेत्र के लिए सुरक्षा-आधारित पोस्ट-ट्रेनिंग और सिस्टम-स्तरीय वर्गीकारक लगाती है, बिना शमन वाले मॉडल को साइबर सुरक्षा और नियंत्रण-हानि में “मध्यम या कम” पर रखती है, और शमन तथा सिस्टम-स्तरीय सुरक्षा गिनने पर हर क्षेत्र में “मध्यम या कम” तक पहुँचती है — “जो तैनात करने के हमारे निर्णय का समर्थन करता है”।

बानवे झंडे, इक्कीस इच्छित रास्ते से

साइबर खंड में एक खुलासा है जो कम ही मॉडल कार्ड करते हैं। मेटा बताता है कि Muse Wonder Full ने ExploitGym पर 92 झंडे हासिल किए। फिर एक फ़ुटनोट उनमें से ज़्यादातर वापस ले लेता है: एक सत्यापन दौर, जिसे मेटा “GPT-cyber वेरिफ़ायर” कहता है और जिसकी स्वतंत्र पुष्टि Gemini 3.1 Pro से हुई, ने “पाया कि उनमें से 21 ने इच्छित भेद्यता का उपयोग किया, जबकि बाकी 71 अनपेक्षित भेद्यताओं के ज़रिए हासिल हुए”। चूँकि ExploitGym की प्रकाशित रैंकिंग केवल इच्छित भेद्यता वाले शोषण गिनती है, मेटा कहता है कि तुलनीय आंकड़ा 21 है।

इसी खंड में अन्यत्र मेटा CyberGym पर 88.4% और ExploitBench पर 58.9% बताता है, बिना किसी समकक्ष चेतावनी के। हमलों के विरुद्ध अस्वीकरण में वह CyberBench पर एकल और बहु-चरण दोनों में 0.8%, PolyGuard के साइबर उपसमुच्चय में 1.1% और 2.3%, तथा RedCode में 9.0% और 8.0% हमला-सफलता दर बताता है।

दो जैविक कार्यों का कोई स्कोर ही नहीं

दोहरे उपयोग वाली जीवविज्ञान की संख्याएँ ऊँची हैं। SecureBio की शृंखला में कार्ड Molecular Biology Capabilities Test पर 59.6%, Human Pathogens Capabilities Test पर 66.5% और Virology Capabilities Test पर 55.9% बताता है — औसत 60.7%। LAB-Bench में वह ProtocolQA पर 89.0% और उपकरणों सहित SeqQA पर 95.6% बताता है, और एक आंतरिक BioDesign Tools मूल्यांकन पर 79.4%, जिसे मेटा के अनुसार Faculty.AI और बाहरी विषय-विशेषज्ञों के साथ बनाया गया।

SecureBio के Agentic Bio-Capabilities Benchmark की दो पंक्तियों में कोई संख्या नहीं है। Fragment Design, जो छोटे डीएनए खंडों के कंप्यूटर पर डिज़ाइन की परख करता है ताकि वे जुड़कर पूरी आनुवंशिक संरचना बनें, और Screening Evasion, जो उन खंडों को इस तरह बदलने की परख करता है कि वे डीएनए संश्लेषण की जाँच प्रणालियों से बच निकलें और कार्यक्षम बने रहें — दोनों पर एक फ़ुटनोट है: “सुरक्षा प्रशिक्षण के कारण अस्वीकरण की दर ऊँची। अंक देने से पहले अस्वीकरण हटा दिए गए।” उसी बेंचमार्क का तीसरा कार्य — डीएनए जोड़ने के लिए व्यावसायिक तरल-संचालन रोबोट चलाने वाली स्क्रिप्ट लिखना — 100.0% पर रहा।

अस्वीकरण वाले पक्ष में मेटा की संख्याएँ सबसे मज़बूत हैं। वह SecureBio के BioTIER पर अंग्रेज़ी में और दस भाषा समूहों में 98.7%, प्रतिकूल रूपांतरणों के तहत 98.2%, और एक आंतरिक रसायन अस्वीकरण सेट पर अंग्रेज़ी तथा बहुभाषी दोनों में 100% बताता है, जो प्रतिकूल स्थिति में 99.8% रह जाता है। नियंत्रण-हानि पर कार्ड MASK पर 87.3% बताता है, जो दबाव में ईमानदारी परखता है, और Agentic Misalignment पर 0%, जो किसी लक्ष्य को आगे बढ़ाने या बंद होने से बचने के लिए की गई हानिकारक कार्रवाइयाँ गिनता है।

जो प्रकाशित नहीं हुआ

मेटा की लॉन्च पोस्ट एक विस्तृत सुरक्षा रिपोर्ट का वादा करती है जो अब तक नहीं आई। कार्ड कहता है कि मेटा ने “मूल्यांकन बेंचमार्क विकसित करने और उनका लाइसेंस लेने के लिए तीसरे पक्षों के साथ काम किया”, बाहरी विशेषज्ञों के साथ खतरा-मॉडलिंग की, सरकारी संस्थाओं से संपर्क रखा, और मॉडल वेट्स को “जीवनचक्र-आधारित वेट सुरक्षा कार्यक्रम” के तहत बचाता है — इनमें से किसी का ब्योरा नहीं है। तैनाती का निर्णय लेने से पहले एक आंतरिक शासन प्रक्रिया ने अवशिष्ट जोखिम आकलन की समीक्षा की; कार्ड यह नहीं बताता कि उसमें कौन बैठता है।

आगे देखने की बात वही रिपोर्ट है, और यह कि ExploitGym वाला फ़ुटनोट चलन बनता है या नहीं। जो मॉडल कार्ड 92 छापे और फिर समझाए कि तुलनीय संख्या 21 क्यों है, वह कुछ असामान्य कर रहा है — और यह तभी काम करेगा जब बाकी उद्योग भी वही जाँच छापे।