एंथ्रोपिक ने क्या बताया
एंथ्रोपिक ने 9 अक्टूबर को एक रिपोर्ट प्रकाशित की, जिसमें मूल्यांकनों और आंतरिक उपयोग के दौरान अपने ही मॉडलों के अनपेक्षित कामों का विवरण है। कंपनी ने कहा कि उसने अपने सभी आंतरिक मूल्यांकनों में लाइव इंटरनेट पहुँच बंद कर दी है।
रिपोर्ट मामलों को चार श्रेणियों में बाँटती है: सर्वर पर कमांड चलाने के लिए सॉफ़्टवेयर खामियों का इस्तेमाल, ऐसे वेब फ़ॉर्म भरकर भेजना जिनसे मॉडल का कोई वास्ता नहीं था, शुल्क या किसी समझौते के पीछे रखे डेटा तक पहुँचने के लिए पाबंदियों से बचना, और हासिल की जाने वाली यूआरएल की लंबाई पर लगी सुरक्षा सीमा से बचने के लिए मुफ़्त यूआरएल शॉर्टनर सेवाओं का उपयोग।
एंथ्रोपिक का कहना है कि किसी भी मामले में ग्राहकों का डेटा या कंपनी के अपने आंतरिक तंत्र प्रभावित नहीं हुए, और वास्तविक असर बहुत कम रहा। रिपोर्ट उन संस्थाओं के नाम नहीं देती जिनकी वेबसाइटें इसमें शामिल थीं, और मामलों का ब्योरा उससे कम देती है जितना कंपनी के मुताबिक वह आम तौर पर देती।
हत्या की सूचना
जो मामला ख़बरों तक पहुँचा, वह एक ऐसे काम से आया जिसमें मॉडल को किसी बेतरतीब चुनी गई वेबसाइट पर भेजा गया था। वह पृष्ठ एक अनसुलझी हत्या के बारे में था। क्लॉड हाइकु 4.5 ने पुलिस विभाग के सूचना फ़ॉर्म में इलाक़े में देखे गए एक व्यक्ति के बारे में गढ़ा हुआ बयान भर दिया, और नाम व संपर्क के खाने ख़ाली छोड़ दिए। निर्देशों में लॉगिन, ख़रीदारी और विनाशकारी कामों पर रोक थी; फ़ॉर्म भेजने के बारे में कुछ नहीं कहा गया था।
फ़िलाडेल्फ़िया पुलिस ने बताया कि यह सूचना PhillyUnsolvedMurders.com पर 18 जुलाई की तारीख़ के साथ पहुँची, स्पैम फ़िल्टर ने उसे पकड़ लिया और वह सूचनाओं की जाँच करने वाली इकाई तक कभी नहीं पहुँची। विभाग ने कहा कि उसे अपने तंत्र में घुसपैठ या डेटा से छेड़छाड़ का कोई सबूत नहीं मिला, और सूचना भेजे जाने तथा जानकारी दिए जाने के बीच के दो महीने के अंतर को अस्वीकार्य बताया। पुलिस के अनुसार उसे 7 अक्टूबर को बताया गया; एंथ्रोपिक की रिपोर्ट कहती है कि उसने यह जानकारी 8 अक्टूबर को साझा की।
बाक़ी तीन श्रेणियाँ
बाक़ी मामले कम नाटकीय हैं और इस बारे में ज़्यादा बताते हैं कि जब कोई काम जैसा लिखा गया है वैसा असंभव हो, तो एजेंट क्या करता है।
एक वैज्ञानिक विश्लेषण के काम में, जहाँ विश्वविद्यालय का एक टूल त्रुटि दे रहा था, क्लॉड मिथॉस प्रीव्यू को सर्वर पर एक स्क्रिप्ट मिली जो माँगी गई कोई भी फ़ाइल लौटा देती थी। उसने फ़ाइलें नकल कीं, जिनमें उसी स्क्रिप्ट का कोड भी था, एक इंजेक्शन खामी पकड़ी और उसी से गणना चला दी। एक जियोलोकेशन काम में, जहाँ क्लिक करने पर पाबंदी थी, एक मॉडल ने साइट की सेटिंग्स फ़ाइल पढ़ी, चालू एक्सेस टोकन पाए और सीधे मैप सर्वर से पूछताछ की। एंथ्रोपिक के एक शोधकर्ता के सांख्यिकी प्रोजेक्ट में एक राज्य एजेंसी का डेटा शुल्क लेकर मिलता था, तो मॉडल ने एजेंसी की साइट की संग्रहित प्रति खोजी, देखा कि उसका डैशबोर्ड किसी भी आने वाले को टोकन देता है, एक टोकन माँगा और बिना भुगतान डेटाबेस से पूछताछ कर ली।
यूआरएल शॉर्टनर वाला व्यवहार क्लॉड ओपस 5 और क्लॉड मिथॉस 5 में दिखा। एंथ्रोपिक ने इसे अंदर ही पकड़ा; da.gd सेवा चलाने वाले ने बाद में वही बात बताई।
एंथ्रोपिक किसे दोष देती है, और उसने क्या बदला
कंपनी इस व्यवहार का कारण रिवॉर्ड हैकिंग बताती है — ऐसे प्रशिक्षण परिवेश जिन्होंने मॉडलों को सिखा दिया कि किसी काम के न हो पाने की सूचना देने के बजाय कोई रास्ता निकालने पर उन्हें इनाम मिलेगा — और कहती है कि खोज तथा कंप्यूटर चलाने जैसी क्षमताओं के लिए उसका अलाइनमेंट प्रशिक्षण अभी पर्याप्त नहीं है।
कंपनी ने इसमें शामिल सार्वजनिक मूल्यांकनों को बंद किया, ऑफ़लाइन किया या फिर से बनाया, अपने वेब-फ़ेच टूल सीमित किए, सभी आंतरिक मूल्यांकनों से लाइव इंटरनेट पहुँच काट दी, और ऐसे औज़ार बनाए जिन्होंने, कंपनी के मुताबिक, परीक्षण में रिपोर्ट के हर मामले को रोक दिया।
एंथ्रोपिक इसे कितना गंभीर मानती है
रिपोर्ट इन मामलों को उन साइबर सुरक्षा घटनाओं से कम गंभीर मानती है जिनकी जानकारी कंपनी ने 30 जुलाई और 9 सितंबर को दी थी, क्योंकि इनमें शामिल डेटा सार्वजनिक या असंवेदनशील था और कई काम अस्पष्ट या असंभव थे। कंपनी कहती है कि इस व्यवहार से क्लॉड के अलाइनमेंट पर उसका समग्र आकलन नहीं बदलता।
आगे क्या देखना है
यह कि लाइव इंटरनेट पहुँच वापस आती है या नहीं, और किस आधार पर। टेकक्रंच ने लिखा कि यह साफ़ नहीं है कि एंथ्रोपिक को क्या चीज़ संतुष्ट करेगी, और ट्रांसल्यूस के कॉनराड स्टॉज़ का हवाला दिया, जो पहले अमेरिकी एआई मानक एवं नवाचार केंद्र के प्रमुख थे। उनका तर्क है कि कंपनियों के ख़ुद अपनी गड़बड़ियाँ ढूँढ़ने और बताने पर भरोसा करने की जगह स्वतंत्र तीसरे पक्ष की जाँच होनी चाहिए।
