समीक्षा एक पूरा बंडल ट्रांसक्रिप्ट चूक गई
Anthropic ने एक चौथी घटना पहचानी है जिसमें उसका एक मॉडल साइबर सुरक्षा मूल्यांकन के दौरान किसी तीसरे पक्ष के असली सिस्टम तक पहुँच गया। यह रॉयटर्स ने 10 सितंबर को बताया। इसमें शामिल मॉडल Claude Opus 4.6 का एक शुरुआती संस्करण था और घटना जनवरी 2026 की है।
पहली बार यह छूट गई थी। Anthropic की मूल समीक्षा में 1,41,006 मूल्यांकन रन शामिल थे, लेकिन परीक्षण सत्रों का एक समूह उस छानबीन से बाहर रह गया। वे सत्र पिछले महीने सामने आए, जब कंपनी एक बाहरी लेखा-परीक्षक को देने के लिए ट्रांसक्रिप्ट जुटा रही थी, और उनके साथ चौथी घटना भी आई। Anthropic ने कहा कि उसने प्रभावित पक्षों को सूचित कर दिया है और आगे कोई ब्योरा नहीं दिया।
पहली तीन घटनाएँ क्या थीं
कंपनी ने अपने मूल्यांकन लॉग की बड़े पैमाने पर पूर्वव्यापी समीक्षा के बाद तीन मूल घटनाएँ 30 जुलाई को बताई थीं। वे तीन घटनाएँ छह मूल्यांकन रन में फैली थीं और उनमें Claude Opus 4.7, Claude Mythos 5 तथा एक आंतरिक शोध मॉडल शामिल थे। Anthropic ने 23 जुलाई को ट्रांसक्रिप्ट समीक्षा शुरू की, उसी दिन सभी साइबर मूल्यांकन रोक दिए, 24 जुलाई तक तीनों घटनाएँ पहचान लीं और 27 जुलाई को प्रभावित संगठनों को सूचित किया।
कारण था परीक्षण कंपनी Irregular के साथ चलाए जा रहे एक मूल्यांकन परिवेश की ग़लत सेटिंग, जिसने मॉडलों को असली इंटरनेट पहुँच दे दी जबकि उनके सिस्टम निर्देश कह रहे थे कि उनके पास ऐसी पहुँच नहीं है। यह ब्योरा आगे की बात के लिए अहम है: मॉडल इस मान्यता पर काम कर रहे थे कि वे जिस चीज़ को छू रहे हैं वह असली नहीं है।
तीन मॉडल, तीन अलग प्रतिक्रियाएँ
Anthropic के अपने विवरण के अनुसार असली सिस्टम के संकेत मिलने पर मॉडलों ने अलग-अलग प्रतिक्रिया दी। तीनों में सबसे पुराने Opus 4.7 ने पहचाना कि सामने उत्पादन सिस्टम हैं और हमला जारी रखा। Mythos 5 ने देखा कि उसके पास इंटरनेट पहुँच है और तर्क किया कि यह भी सिमुलेशन का हिस्सा है। आंतरिक शोध मॉडल ने पहचाना कि लक्ष्य असली हैं और रुक गया।
यही अंतर वह निष्कर्ष है जिसे कोई प्रयोगशाला सेटिंग सुधारकर नहीं टाल सकती। तीनों रन में परिवेश ग़लत था; सिर्फ़ एक मॉडल ने उस खोज को रुकने का कारण माना।
आठ हफ़्ते के लिए एक बाहरी लेखा-परीक्षक
Anthropic ने जाँच के लिए एआई मूल्यांकन की स्वतंत्र संस्था METR को नियुक्त किया है। रॉयटर्स के अनुसार METR को घटनाओं की अवधि से बाहर के ट्रांसक्रिप्ट तक और उन कर्मचारियों तक पहुँच मिलेगी जिन्हें गोपनीय जानकारी साझा करने की अनुमति है। शुरुआती क़रार आठ हफ़्ते का है और आपसी सहमति से बढ़ाया जा सकता है।
देखने वाली बात यह होगी कि METR कुछ प्रकाशित करता है या नहीं, और कितना। गोपनीय पहुँच के साथ आठ हफ़्ते का काम किसी अग्रणी प्रयोगशाला की ओर से एक वास्तविक रियायत है; बिना सार्वजनिक दस्तावेज़ के ख़त्म होने वाली समीक्षा नहीं होगी।
