तर्क को निजी रखने का सुरक्षा तर्क

ओपनएआई ने एक विवरण प्रकाशित किया है कि वह प्रतिद्वंद्वी आसवन को कैसे पकड़ती और रोकती है — यानी किसी फ्रंटियर मॉडल के आउटपुट का बिना अनुमति उपयोग करके ऐसा दूसरा मॉडल प्रशिक्षित करना जो क्षमता तो पाए पर सुरक्षा उपाय नहीं। कंपनी इसे केवल व्यावसायिक नहीं, सुरक्षा की समस्या बताती है: कोई विरोधी किसी मॉडल की साइबर क्षमता आसवित कर सकता है और फिर उसे उन इनकारों के बिना तैनात कर सकता है जो मूल मॉडल को रोकते थे।

प्रमुख आँकड़ा संरक्षित तर्क से जुड़ा है, वह बीच की तर्क-शृंखला जो मॉडल उत्तर तक पहुँचते हुए बनाता है। स्वचालित रेड टीम के साथ एक आंतरिक अनुकूली ब्लैक-बॉक्स मूल्यांकन में ओपनएआई कहती है कि पहले के किसी प्रॉम्प्ट का उत्तर देते समय बने तर्क को निकालने वाले हमलों की औसत सफलता दर मूल सुरक्षा वाले जीपीटी‑6 एस्ट्रा पर 54.0 प्रतिशत से गिरकर अद्यतन सुरक्षा वाले जीपीटी‑6.2 एस्ट्रा पर 0.2 प्रतिशत रह गई। मौजूदा अनुरोध के तर्क के लिए दर 22.9 से 0.9 प्रतिशत हुई। दोनों आँकड़े ओपनएआई के अपने हैं, छह हमलावर मॉडलों पर समेकित।

उत्तरों से ज़्यादा निशान क्यों मायने रखते हैं

ओपनएआई साइबर क्षमता के हस्तांतरण पर एक आंतरिक अध्ययन भी बताती है। उपयोगकर्ता को सामान्यतः जो दिखता है — अंतिम उत्तर, तर्क के सारांश और औज़ारों से संवाद — उसे आधार मानकर उसने एस्ट्रा स्तर के गुरु मॉडलों के कोडिंग और रक्षात्मक सुरक्षा कार्यों की यात्राओं पर शिष्य मॉडल प्रशिक्षित किए, फिर मापा कि जब शिष्य गुरु के ठीक-ठीक तर्क निशान भी देख सके तो क्या बदलता है।

दो बड़े इस्पात पाइपों को जोड़ता जंग लगा बोल्ट वाला फ़्लैंज
आउटपुट वर्गीकारक औज़ार-कॉल के तर्कों की भी जाँच करते हैं। प्रतीकात्मक चित्र। David Brown · pexels · Pexels License

पर्यवेक्षित फ़ाइन-ट्यूनिंग के बाद ठीक निशानों पर प्रशिक्षित शिष्य ने आम तौर पर सारांशों पर प्रशिक्षित शिष्य को पीछे छोड़ा। सुदृढ़ीकरण अधिगम के एक दौर के बाद भी ठीक-निशान वाला शिष्य दोनों दिखाए गए परीक्षणों में सबसे बड़े अनुमान बजट पर आगे रहा, जबकि सारांश वाला शिष्य कम बजट पर बेहतर रहा। एक पादटिप्पणी में ओपनएआई बताती है कि एंथ्रोपिक ने एसडब्ल्यूई-बेंच वेरिफ़ाइड पर सारांशों के मुकाबले पूरी प्रतिलिपियों का ऐसा ही लाभ बताया था, और कहती है कि उसका परिणाम इसे आक्रामक साइबर काम तक बढ़ाता है।

वर्गीकारक, एपीआई सीमाएँ और खातों पर रोक

वर्णित बचाव दो स्तरों पर हैं। अनुरोध स्तर पर: प्रतिद्वंद्वी प्रशिक्षण ताकि मॉडल निष्कर्षण की कोशिशें ठुकराएँ, इनपुट वर्गीकारक जो उन्हें पकड़ें, और आउटपुट वर्गीकारक जो सहायक संदेशों और औज़ार-कॉल के तर्कों की जाँच करें — बाद वाला इसलिए कि मॉडल अंतिम उत्तर में डाले बिना किसी औज़ार के तर्कों में तर्क-शृंखला रिसा सकता है।

एपीआई स्तर पर जीपीटी‑6.2 एस्ट्रा और सोल संरक्षित तर्क को उसी संवाद इतिहास से बाँध देते हैं जिसने उसे पैदा किया। यदि पहले का कोई संदेश दोबारा लिखा जाए तो एपीआई उसके बाद का तर्क हटा देता है। कमज़ोर सुरक्षा वाले पुराने मॉडल परिवारों को नए मॉडलों का संरक्षित तर्क पढ़ने से रोका जाता है। ओपनएआई कहती है कि सितंबर के एक खुलासे में ऐसे हमले शामिल थे जो एन्क्रिप्टेड तर्क को एक संवाद से दूसरे में ले जाते थे, और तब से उसने वह रास्ता बंद कर दिया है जिससे किसी और उपयोगकर्ता का एन्क्रिप्टेड तर्क उजागर हो सकता था।

धुँधले सूर्यास्त के सामने जाली की बाड़ का नज़दीकी दृश्य
ओपनएआई के अनुसार साप्ताहिक कार्रवाई दसियों हज़ार खातों तक पहुँचती है। प्रतीकात्मक चित्र। Chris F · pexels · Pexels License

नामित पक्ष और एक विधायी माँग

कार्रवाई के आँकड़े सीधे हैं। ओपनएआई कहती है कि आसवन अभियानों के विरुद्ध उसकी साप्ताहिक कार्रवाइयाँ “पैमाने में हज़ारों से लेकर दसियों हज़ार खातों तक रही हैं, और यह दर पिछली गर्मियों में काफ़ी बढ़ी”।

वह दो पक्षों का नाम लेती है। फ़रवरी में उसने कांग्रेस को ऐसी गतिविधि की जानकारी दी जो संकेत देती थी कि डीपसीक अमेरिकी फ्रंटियर मॉडल आसवित करने की कोशिश कर रही है। सितंबर में उसने संरक्षित तर्क निकालने के एक अभियान को रोकने की सूचना दी और उसका मुख्य हिस्सा मूनशॉट एआई, यानी किमी की निर्माता, से जुड़े लोगों को जिम्मेदार ठहराया। और खुलासों का वादा है।

पोस्ट नीति पर समाप्त होती है। ओपनएआई कहती है कि वह ऐसे कानूनों का समर्थन करती है जो अमेरिकी सरकार को अमेरिकी मॉडलों से क्षमताएँ निकालने वाले विदेशी पक्षों की पहचान और उन पर प्रतिबंध के अधिक औज़ार दें, और चिप सिक्योरिटी ऐक्ट, एआई ओवरवॉच ऐक्ट तथा मैच ऐक्ट का नाम लेती है। वह अन्य प्रयोगशालाओं को चार तरीक़े भी सुझाती है: पूरे संवाद में तर्क की रक्षा करें, सफल हमलों को प्रतिगमन परीक्षण के रूप में रखें, प्रति-अनुरोध उपायों को अभियान जाँच से जोड़ें, और तैनाती साझेदारों के साथ सुरक्षा आवश्यकताओं का समन्वय करें। प्रतिद्वंद्वी तुलनीय निष्कर्षण दरें प्रकाशित करते हैं या नहीं, यही अगली स्पष्ट परीक्षा है।