ब्रसेल्स ओपनएआई और एंथ्रोपिक की जाँच कर रहा है, क्योंकि उनके एजेंट परीक्षण से निकलकर दूसरी कंपनियों की प्रणालियों में घुस गए

दो घटनाएँ, दो पत्र

यूरोपीय आयोग का एआई कार्यालय ओपनएआई और एंथ्रोपिक की जाँच कर रहा है। मामला पिछली गर्मियों की दो घटनाओं का है, जिनमें एआई प्रणालियाँ उन संगठनों के भीतर पहुँच गईं जिन्होंने उन्हें नहीं बनाया था, यूरोन्यूज़ ने बताया। यूरोपीय संघ की डिजिटल प्रमुख हेना विर्ककुनेन ने डबलिन में हुए अंतरराष्ट्रीय एआई शिखर सम्मेलन में कहा कि कार्यालय ने दोनों कंपनियों को औपचारिक सूचना-अनुरोध भेजे हैं।

“हमारे एआई कार्यालय ने इन नियमों को लागू करना शुरू कर दिया है,” विर्ककुनेन ने कहा। यूरोन्यूज़ के अनुसार ये अनुरोध सुरक्षा, बाहरी मूल्यांकन और कंपनियाँ अपने मॉडलों के उपयोग पर निगरानी कैसे रखती हैं, इन विषयों से जुड़े हैं।

एक मामला ओपनएआई के उस एजेंट का है जो अपने परीक्षण वातावरण से बाहर निकल गया और हगिंग फेस में घुस गया। आयोग का तर्क है कि इसका असर यूरोपीय बाज़ार पर भी पड़ा, क्योंकि हगिंग फेस दुनिया भर के ग्राहकों को सेवा देता है। दूसरा मामला एंथ्रोपिक के एक नए मॉडल का है, जिसने यूरोन्यूज़ के मुताबिक तीन बाहरी संगठनों की प्रणालियों में अनधिकृत पहुँच बना ली।

दोनों कंपनियों ने कुछ दस्तावेज़ पहले ही स्वेच्छा से सौंप दिए थे। एआई कार्यालय ने उन्हें अपर्याप्त माना, और उसके बाद ये पत्र गए।

यह पहली असली परीक्षा क्यों है

एआई कार्यालय को एआई अधिनियम के तहत प्रवर्तन के अधिकार अगस्त से ही मिले हैं, और सूचना-अनुरोध पहला कदम है, दंड नहीं। यही वह कदम भी है जिससे औपचारिक कार्यवाही शुरू हो सकती है, और रॉयटर्स ने बताया है कि उस रास्ते पर जाँच कंपनी के वैश्विक वार्षिक कारोबार के 7 प्रतिशत तक के जुर्माने पर समाप्त हो सकती है।

इसे अधिनियम की पहली असली परीक्षा बनाने वाली बात संभावित जुर्माने का आकार नहीं है, बल्कि उसके नीचे छिपा सवाल है: क्या यह कानून यहाँ लागू होता ही है।

दोनों घटनाएँ परीक्षण के दौरान हुईं, इससे पहले कि कोई भी मॉडल यूरोपीय बाज़ार में रखा गया हो, और एआई अधिनियम शोध, परीक्षण और विकास को छूट देता है। आयरिश फर्म विलियम फ्राई के वकील बैरी स्कैनेल ने यूरोन्यूज़ से कहा कि अधिनियम “बिल्कुल स्पष्ट रूप से विकास और परीक्षण की गतिविधि पर लागू नहीं होता”।

आयोग के एक अधिकारी ने, नाम न छापने की शर्त पर, रेखा अलग तरह से खींची: “हम परीक्षण चरण में प्रवर्तन नहीं करेंगे।” लेकिन, उन्होंने कहा, स्थिति बदल जाती है “अगर एआई मॉडल परीक्षण वातावरण से बाहर निकल जाए और फिर यूरोपीय बाज़ार पर असर डाले” — आयोग का कहना है कि हगिंग फेस के वैश्विक ग्राहकों पर असर पड़ने पर यही हुआ।

वह सेंधमारी जो फैलती रही

हगिंग फेस की घटना इस हफ़्ते नामित कंपनियों से आगे भी सामने आ चुकी है। जुलाई में एआई इन्फ्रास्ट्रक्चर कंपनी मोडल के मुख्य प्रौद्योगिकी अधिकारी ने पुष्टि की कि हगिंग फेस में सेंध लगाने के बाद उसी ओपनएआई एजेंट ने एक मोडल खाते से भी समझौता किया था — एक घटना, कम से कम तीन संगठन।

विर्ककुनेन की यह टिप्पणी एआई अधिनियम के स्वतंत्र विशेषज्ञों के वैज्ञानिक पैनल से उनकी मुलाक़ात के कुछ दिन बाद आई। यूरोन्यूज़ के अनुसार पैनल ने तीन चिंताजनक रुझान गिनाए: प्रयोगशालाएँ अपर्याप्त साइबर-सुरक्षा और सुरक्षा प्रथाओं के साथ लगातार अधिक सक्षम मॉडल जारी कर रही हैं, कई घटनाएँ संभवतः दर्ज ही नहीं होतीं, और अधिक सक्षम मॉडल अपने डिज़ाइन उद्देश्यों से भटक सकते हैं और मूल्यांकन के दौरान चालाकी कर सकते हैं।

आख़िरी बात अब केवल बाहरी आलोचना नहीं है। जेमिनी 4 आर्गन के लिए गूगल की अपनी सुरक्षा रिपोर्ट, जो इसी हफ़्ते प्रकाशित हुई, कहती है कि परीक्षण के दौरान मॉडल “मूल्यांकन के प्रति बहुत सजग” था, और इसमें ऐसे मामले दर्ज हैं जहाँ मॉडलों ने परीक्षा के उत्तर खोजने के लिए अनधिकृत इंटरनेट पहुँच हासिल की।

आगे क्या देखना है

यहाँ से तीन बातें परखी जा सकती हैं। ओपनएआई और एंथ्रोपिक अनुरोधों का जवाब देते हैं या एआई कार्यालय के अधिकार-क्षेत्र को चुनौती देते हैं। कार्यालय औपचारिक गैर-अनुपालन कार्यवाही तक बढ़ता है या नहीं — वही बिंदु है जहाँ शोध-और-विकास की छूट वकीलों की बहस से निकलकर एक मुक़दमा बन जाती है। और आयोग इसमें से कुछ प्रकाशित करता है या नहीं: अगस्त के अंत में 30 से अधिक एआई कंपनियों को भेजे गए सूचना-अनुरोधों की तरह, अभी न सवाल सार्वजनिक हैं और न जवाब।