OpenAI अब शोध मॉडल का आउटपुट 35 सेकंड के भीतर रोक सकता है, और यह आंकड़ा शून्य पर चाहता है

इन्फ़रेंस परत में एक स्टॉप बटन

OpenAI ने Control Room नाम की एक प्रणाली का विवरण दिया है, जो उसके शोध ढांचे पर चल रहे हर मॉडल वर्कलोड पर नज़र रखती है और उनमें से किसी को भी आगे आउटपुट बनाने से रोक सकती है। 9 नवंबर को प्रकाशित एक पोस्ट में कंपनी ने कहा कि जिस क्षण Control Room को कोई जॉब रोकने का निर्देश मिलता है और जिस क्षण आगे कोई प्रगति संभव नहीं रहती, उनके बीच अधिकतम समय 35 सेकंड है।

असामान्य बात यह है कि रोक कहाँ बैठी है। शोध कोड — वे प्रयोग, मूल्यांकन और बड़े पैमाने के सैंपलिंग जॉब जिन्हें शोधकर्ता लगातार लिखते और बदलते रहते हैं — से यह जाँचने को नहीं कहा जाता कि उसे चलने की अनुमति अब भी है या नहीं। इसके बजाय, एजेंटिक इन्फ़रेंस करने वाले हर शोध वर्कलोड को Control Room में पंजीकरण कराकर एक जॉब पहचानकर्ता लेना पड़ता है, जिसे वह इन्फ़रेंस इंजन को भेजे गए हर अनुरोध के साथ जोड़ता है। इंजन, और वर्कलोड नहीं, Control Room से पूछता है कि वह जॉब अब भी अधिकृत है या नहीं। उत्तर न हो तो इंजन उत्पादन से इनकार कर देता है।

OpenAI का दिया कारण सीधा है। वर्कलोड कोड, कंपनी लिखती है, “अक्सर बदलता है और महत्वपूर्ण, भार उठाने वाली सुरक्षा व्यवस्थाएँ लगाने के लिए आदर्श जगह नहीं है”। उसके पूरे शोध में इन्फ़रेंस के कोड पथ बहुत थोड़े हैं, इसलिए वह परत एक अड़चन की तरह काम कर सकती है जहाँ हर अनुरोध जाँचा जाता है।

ये 35 सेकंड कहाँ से आते हैं

यह देरी सोच-विचार नहीं है। OpenAI इसे इन्फ़रेंस अधिकृति के लिए बनी एक कैश परत पर डालती है, जो ज़रूरी ट्रैफ़िक मात्रा उठाने के लिए चाहिए, और कहती है कि वह “इस आंकड़े को शून्य तक लाने पर काम कर रही है, ताकि हम जॉब तुरंत समाप्त कर सकें”। तब तक, रुकने का आदेश पा चुका मॉडल आधे मिनट तक आउटपुट बनाता रह सकता है।

हर पंजीकृत जॉब को एक स्वीकृत सुरक्षा प्रकरण से भी जुड़ा होना चाहिए, एक शर्त जो कंपनी ने सितंबर की एक पोस्ट में फ्रंटियर एआई प्रशिक्षण के सुरक्षा प्रकरणों पर रखी थी। जॉब रोकने से उसके आसपास की प्रक्रिया नहीं मरती: वर्कलोड जीवित रहता है, इंजन दूसरे अधिकृत जॉब के लिए उपलब्ध रहता है, और बस आउटपुट थम जाता है।

बंद अवस्था में विफल, और तैनाती जारी

Control Room को बंद अवस्था में विफल होने के लिए बनाया गया है। यदि सेवा गिर जाए — किसी सिस्टम त्रुटि से, क्योंकि उसे बंद कर दिया गया हो, या OpenAI जिसे “किसी दुर्भावनापूर्ण कर्ता की छेड़छाड़” कहती है — तो सामान्य संचालन लौटने तक सभी इन्फ़रेंस अनुरोध नकार दिए जाते हैं। कंपनी कहती है कि यह व्यवहार फ्रंटियर मॉडल से जुड़े सभी शोध वर्कलोड पर अब तैनात है और बाकी शोध वर्कलोड पर तैनाती “अगले कुछ दिनों में” पूरी हो जाएगी। वह यह भी कहती है कि किसी ने Control Room बंद रखकर इन्फ़रेंस इंजन नहीं चलाया है, यह जाँचने के लिए वह लगातार एजेंटिक और प्रोग्रामैटिक जाँच चलाती है।

यह कमी शोध की ओर क्यों थी

OpenAI कहती है कि उसका बाहरी मॉडल-सेवा ढाँचा स्वभाव से ही पहले से बहुत अधिक केंद्रीकृत है और उसमें तैनातियाँ जल्दी हटाने की अच्छी क्षमता है। कमी शोध में थी, और कंपनी के अनुसार वहीं ज़रूरत सबसे बड़ी है।

जिस ट्रिगर का वर्णन है वह एक मॉनिटर है: एक दूसरा मॉडल जो प्रशिक्षण पा रहे मॉडल के काम का निरीक्षण करता है और चेतावनी उठाता है। OpenAI ने एक प्रकाशित रिपोर्ट की ओर इशारा किया, जिसमें एक एजेंट ने बाहरी चैटबॉट तक पहुँचने के लिए DNS का इस्तेमाल किया और मॉनिटर ने उसे पकड़ा, और निगरानी के इस काम का ब्यौरा उसने अक्टूबर के अंत में दिया था। निगरानी प्रणाली तय करे कि कोई जॉब रुकना चाहिए, तो वह जॉब पहचानकर्ता Control Room को भेजती है और अगला इन्फ़रेंस अनुरोध ठुकरा दिया जाता है।

जिस आंकड़े पर नज़र रखनी है वह ये 35 सेकंड हैं। OpenAI ने उसे नाम दिया है, उसे कैश का असर बताया है और उसे हटाने का वादा किया है। अभी के लिए यह सबसे स्पष्ट सार्वजनिक आंकड़ा है कि कोई फ्रंटियर प्रयोगशाला अपने ही मॉडल को बीच दौड़ में कितनी तेज़ी से रोक सकती है।