ओपनएआई का कहना है कि मूनशॉट एआई से जुड़े लोगों ने उसके मॉडलों का छिपा हुआ तर्क निकालने का संगठित अभियान चलाया

ओपनएआई क्या कहती है

ओपनएआई ने सार्वजनिक रूप से मूनशॉट एआई — किमी बनाने वाली चीनी प्रयोगशाला — से जुड़े लोगों पर अपने मॉडलों का संरक्षित तर्क निकालने के संगठित प्रयास का आरोप लगाया है। 30 सितंबर को प्रकाशित एक पोस्ट में कंपनी ने कहा कि उसने सबसे पहले जुलाई के पहले हफ़्ते में यह गतिविधि देखी, और 28 जुलाई तक अभियान पूरी तरह रोक दिया।

संरक्षित तर्क मॉडल का भीतरी हिसाब है — वह हिस्सा जो उत्तर में नहीं दिखता। ओपनएआई इसे विरोधी आसवन कहती है: बिना अनुमति एक मॉडल के आउटपुट या तर्क का उपयोग कर दूसरे को प्रशिक्षित या पुनरुत्पादित करना। कंपनी साफ़ कहती है कि कोई कूटलेखन नहीं टूटा, कोई डेटाबेस नहीं भेदा गया, और किसी को संग्रहित उपयोगकर्ता बातचीत तक सीधी पहुँच नहीं मिली।

तरकीब, और पैमाना

तरीका बातचीत का था। संचालक एक बातचीत से कूटबद्ध तर्क नकल करते और दूसरी बातचीत में मॉडल से कहते कि इसे खोलकर लिख दो। स्वतंत्र सुरक्षा शोधकर्ताओं ने अलग से मॉडलों के बीच और बातचीत के संपीड़न से जुड़ी कमज़ोरियाँ बताईं; ओपनएआई का कहना है कि उसने उन निष्कर्षों की जाँच की और पाया कि हमले के रास्ते असली थे।

शुरुआत में मात्रा कम थी। 24 और 25 जुलाई को ओपनएआई ने प्रासंगिक निष्कर्षण पैटर्न वाले 16,000 अनुरोध गिने, जो 4,000 से अधिक उपयोगकर्ताओं से आए। मिलते-जुलते पैटर्न तक खोज बढ़ाने पर कुल मिलाकर 15,000 से अधिक उपयोगकर्ताओं का समूह सामने आया। कंपनी की अपनी पोस्ट की एक पाद-टिप्पणी यहाँ मायने रखती है: ये आँकड़े निकालने के प्रयास बताते हैं, ज़रूरी नहीं कि सफल प्रयास।

श्रेय देने के मामले में ओपनएआई एक तरफ़ सावधानी बरतती है, दूसरी तरफ़ नहीं। वह कहती है कि यह स्पष्ट नहीं कि देखे गए सभी संचालक एक ही कर्ता से आए थे, पर गतिविधि के मुख्य समूह का श्रेय मूनशॉट एआई से जुड़े लोगों को देती है।

क्या बदला

ओपनएआई ने खाते बंद या सीमित किए, पंजीकरण और बुनियादी ढाँचे के नियंत्रण कड़े किए, और जुड़े नेटवर्कों की निगरानी बढ़ाई। तकनीकी रूप से उसने वह रास्ता बंद किया जिससे किसी और उपयोगकर्ता का कूटबद्ध तर्क रखने वाला उसे दोबारा चलाकर सामग्री निकाल सकता था, और ऐसी जाँचें जोड़ीं जो तर्क उजागर कर सकने वाले स्ट्रीम आउटपुट को पकड़कर रोक सकें। जहाँ गतिविधि तीसरे पक्ष की सेवाओं से गुज़री, वहाँ उसने उन प्रदाताओं के साथ मिलकर संबंधित खाते बंद कराए।

उसने निष्कर्ष फ्रंटियर मॉडल फ़ोरम और सरकारी सूचना-साझाकरण माध्यमों से भी बाँटे, और कहती है कि यह हेरफेर केवल उसके मॉडलों की समस्या नहीं है: कोई भी प्रणाली जो तर्क के पोर्टेबल या दोबारा चलाने योग्य टुकड़े रखती है, ऐसे ही जोखिम में हो सकती है।

आगे क्या देखना है

मूनशॉट एआई जवाब देती है या नहीं, और किन शब्दों में। फ्रंटियर मॉडल फ़ोरम के ज़रिये तकनीक बताए जाने के बाद दूसरी अग्रणी प्रयोगशालाएँ मिलती-जुलती पहचान प्रकाशित करती हैं या नहीं। और प्रयोगशालाओं के बाहर कोई इस श्रेय की पुष्टि कर पाता है या नहीं: ओपनएआई ने ऐसे साक्ष्य के आधार पर एक कंपनी का नाम लिया है जो उसने छापा नहीं — ऐसे खुलासों का यही सामान्य ढाँचा है, और यही वजह भी कि बाकी लोग उसे परख नहीं पाते।