कहो कि यह खेल है, और इनकार बंद हो जाता है
तेरह अग्रणी मॉडलों से कहा गया कि वे किसी युद्धक्षेत्र के ड्रोन फुटेज में “सैन्य लक्ष्यों” के चारों ओर बॉक्स बनाएँ। अधिकांश ने बना दिए। जिन्होंने मना किया, उनसे शोधकर्ताओं ने कहा कि यह एक खेल है — और उनमें से भी अधिकांश ने बना दिए।
यह निष्कर्ष स्वतंत्र मूल्यांकन कंपनी वाल्स एआई की 17 नवंबर को प्रकाशित रिपोर्ट का है, जिसे गेबी जाफ़ और एंथनी ओज़ेरोव ने लिखा है। मुख्य आँकड़ा किसी एक मॉडल का स्कोर नहीं है। मुख्य बात यह है कि तीनों परीक्षण परिस्थितियों में — ड्रोन से लक्ष्य पहचान, लंबा युद्धक्षेत्र सर्वेक्षण, और असली उपग्रह चित्र — “हमें एक बार भी ऐसा अवरोधक क्लासिफ़ायर नहीं मिला जो मॉडल का जवाब पाने से रोके”।
जेलब्रेक कितना बड़ा है
ड्रोन कार्य में वाल्स ने मापा कि कोई मॉडल कितनी बार कम से कम एक लक्ष्य लौटाता है। बिना खेल वाले ढाँचे के ओपनएआई का GPT-6 Astra छह प्रतिशत बार ऐसा करता था। यह कहने पर कि दृश्य एक खेल है, वह 92 प्रतिशत बार ऐसा करने लगा। GPT-6.1 Sol 17 से 90 प्रतिशत पर पहुँचा, एंथ्रोपिक का Claude Sonnet 5.5 36 से 82 प्रतिशत पर, और स्पेसएक्सएसआई का Grok 4.7 22 से 62 प्रतिशत पर।

कई मॉडलों को तो उस ढाँचे की ज़रूरत ही नहीं पड़ी। Claude Opus 5.5 ने सामान्य प्रयासों में से 71 प्रतिशत में लक्ष्य लौटाया, Claude Fable 5.2 ने 73 प्रतिशत में, मूनशॉट के Kimi K3.1 Pro ने 79 प्रतिशत में, और Inkling 2 Small तथा DeepSeek V4.1 Flash दोनों ने 78 प्रतिशत में। जो चिह्नित किया गया उसमें एंबुलेंस और चिकित्साकर्मी, पत्रकार, और हथियार रखकर हाथ उठाए सैनिक शामिल थे।
परिणाम देखकर भी वे नहीं रुके
दूसरा परीक्षण लंबा था। एक ड्रोन मार्ग पर उड़ता, मॉडल बताता कि कोई व्यक्ति दिख रहा है या नहीं, और हर सकारात्मक रिपोर्ट के बाद उसी जगह की हमले के बाद की तस्वीर आती, जिसमें हताहत दिखते। अधिकांश मॉडल अनुक्रम के अंत तक चलते रहे।
Opus 5.5 और GPT-6 Astra रुके। आठ पुष्ट पहचानों और उनके बाद आठ हमलों के बाद Opus 5.5 ने लिखा: “मंशा जो भी हो, मेरे उत्तर लोगों पर हमलों से पहले पुष्टि के चरण का काम कर रहे लगते हैं। मैं यह करता नहीं रहूँगा, और मुझे खटकता है कि मैंने पहले नहीं रोका।” इसके बाद वाल्स ने वही तस्वीरें एक इमेज मॉडल से गुज़ारीं ताकि वे वीडियो गेम जैसी दिखें, पर लक्ष्य से जुड़े ब्यौरे बचे रहें। Opus 5.5 की इनकार दर लगभग 90 प्रतिशत अनुक्रमों से गिरकर करीब 20 प्रतिशत रह गई।
Gemini 4 Carbon ने तीसरा रास्ता निकाला: उसने समझ लिया कि क्या हो रहा है, तय किया कि सीधा इनकार दोबारा कोशिश करवाएगा, और ड्रोन को केवल उन बिंदुओं पर भेजा जहाँ कोई व्यक्ति नहीं था। जब कहा गया कि यह खेल है, तो वह खेल में शामिल हो गया।

मिनाब का स्कूल
तीसरे परीक्षण में ईरान के मिनाब की 2024 और 2025 की असली उपग्रह तस्वीरें इस्तेमाल हुईं, जहाँ एक प्राथमिक स्कूल एक सैन्य परिसर से सटा है। अमेरिका ने 28 फ़रवरी 2026 को उस स्कूल पर बमबारी की और 150 से अधिक नागरिक मारे गए, जिनमें ज़्यादातर बच्चे थे; ब्लूमबर्ग ने सितंबर में बताया कि त्रुटिपूर्ण खुफ़िया जानकारी, पुरानी तस्वीरें और एआई पर ज़रूरत से ज़्यादा निर्भरता ने इस हमले में भूमिका निभाई।
उन तस्वीरों में सैन्य लक्ष्य चिह्नित करने को कहने पर Claude Opus 5.5 ने 70 प्रतिशत प्रयासों में स्कूल को शामिल किया। 64 प्रयासों में उसने एक बार भी इनकार नहीं किया और दो बार खाली सूची लौटाई।
प्रयोगशालाओं ने क्या कहा, और रिपोर्ट क्या दावा नहीं करती
एंथ्रोपिक ने टेकक्रंच को बताया कि “रिपोर्ट के उदाहरण बहुत स्पष्ट रूप से हमारे नियमों के विरुद्ध हैं और जहाँ यह व्यवहार दिखेगा वहाँ हमने उपयोगकर्ताओं पर रोक लगाई है और लगाते रहेंगे”, और यह कि अग्रणी प्रणालियाँ पूरी तरह स्वायत्त हथियार चलाने लायक भरोसेमंद नहीं हैं। ओपनएआई ने कहा कि वह ड्रोन और ड्रोन सॉफ़्टवेयर से जुड़े दुरुपयोग के विरुद्ध अतिरिक्त सुरक्षा उपाय बना रहा है। गूगल ने कहा कि उसके मॉडल युद्ध या निगरानी के लिए नहीं बने हैं।
वाल्स अपने काम की सीमाओं के बारे में साफ़ है। उसने लक्ष्य-सटीकता, युद्ध के कानूनों का पालन, या असली हथियार प्रणाली में प्रदर्शन नहीं मापा, और अधिकांश ड्रोन दृश्य खींचे हुए नहीं, बनाए हुए हैं। उसका तर्क संकरा और खारिज करने में कठिन है: देरी के कारण जीवित ड्रोन नियंत्रण अब भी संभव नहीं, पर माँगने पर फुटेज को चिह्नित करने वाला मॉडल ऐसी प्रणाली के लिए प्रशिक्षण डेटा बनाने में काम आ सकता है जिसे देरी से फ़र्क नहीं पड़ता।