नियमावली की जगह पाँच मूल्य
OpenAI ने 29 अक्टूबर को एक संशोधित Model Spec प्रकाशित किया और पूरे दस्तावेज़ को पाँच घोषित मूल्यों के इर्द-गिर्द फिर से गढ़ा: मानव मंशा के प्रति निष्ठा, हानि में कमी, ईमानदारी और पारदर्शिता, मानव स्वायत्तता, और परवाह। कंपनी ने इसे मूल्य-संरेखण पर अपने काम का एक चरण बताया, जिसका उद्देश्य यह है कि मॉडल उन स्थितियों में भी मानवीय मूल्य लागू कर सकें जिन्हें उनके निर्देश स्पष्ट रूप से नहीं छूते।
Model Spec इसलिए महत्वपूर्ण है कि यही एकमात्र सार्वजनिक पाठ है जिसमें OpenAI यह वचन देती है कि उसके मॉडल कैसा व्यवहार करें, और इसलिए भी कि कंपनी इसी के विरुद्ध प्रशिक्षण करती है। यह इसका विवरण नहीं है कि मॉडल वास्तव में कैसा व्यवहार करते हैं। OpenAI ने साफ़ कहा: दस्तावेज़ उस व्यवहार का वर्णन करता है जिसकी ओर वह काम कर रही है, और उसके मॉडल अभी उसे पूरी तरह नहीं दर्शाते।
क्या जोड़ा गया
मानव मंशा के प्रति निष्ठा वाला नया खंड इस आधार से शुरू होता है कि लोग जिसे महत्व देते हैं वही प्राथमिक है, और निर्देश आमतौर पर उन मूल्यों का सबसे स्पष्ट संकेत होते हैं। OpenAI ने कहा कि यह दृष्टिकोण संरेखण के सहायता-खेल ढाँचे से उधार लिया गया है, और इस खंड में एक संशोधित आदेश-शृंखला है जो तय करती है कि कौन से निर्देश लागू होंगे और टकराव कैसे सुलझेगा।
एक नया उपखंड, संदर्भ पर ध्यान से विचार करें, बताता है कि बातचीत, स्मृतियाँ और अन्य संदर्भगत प्रमाण मॉडल की इस समझ को कैसे आकार दें कि व्यक्ति क्या चाहता है। कंपनी का उदाहरण साधारण और बहुत कुछ कहने वाला है: दो नौकरी प्रस्तावों की तुलना करते समय मॉडल उस प्राथमिकता का सहारा ले सकता है जो उपयोगकर्ता ने पहले बताई थी — निश्चित काम के घंटे — पर वह अनुमान दिखाई देता रहे और सुधारा जा सके।
OpenAI ने मानव स्वायत्तता को सहारा देने और प्रासंगिक सामाजिक मानदंडों का पालन करने संबंधी नए डिफ़ॉल्ट भी जोड़े, और मॉडल के काम के दुष्प्रभावों को नियंत्रित करने तथा बताने संबंधी मौजूदा निर्देश विस्तृत किए।
क्या हटाया गया
बड़ा बदलाव घटाव है। OpenAI ने कहा कि वह दस्तावेज़ की अधिकांश विस्तृत शैली-निर्देशिका हटा रही है, इस तर्क पर कि शैली को लोगों की पसंद के अनुसार ढलना चाहिए — समग्र रूप से, भाषाओं और संस्कृतियों के भीतर, और हर व्यक्ति के लिए — जिसमें उपयोगकर्ता की प्रतिक्रिया और संदर्भ प्रमाण देंगे।
एक सीमा बची रहती है। दस्तावेज़ कुछ मज़बूत डिफ़ॉल्ट रखता है, जैसे प्रश्नों को वस्तुनिष्ठ ढंग से लेना, और OpenAI ने उनके चारों ओर रेखा खींची: उपयोगकर्ता और डेवलपर स्पष्ट रूप से कह सकते हैं कि मॉडल कोई दृष्टिकोण अपनाए, पर मॉडल को यह अनुमान इस आधार पर नहीं लगाना चाहिए कि वे क्या सुनना चाहते होंगे। यह चापलूसी के विरुद्ध नियम है, जो शैली-टिप्पणी नहीं बल्कि डिफ़ॉल्ट के रूप में लिखा गया है — और यही उसे शैली खंड से बाहर लाने का अर्थ है।
अब मॉडल का नाम GPT है
दस्तावेज़ ने अपने विषय को “सहायक” कहना भी छोड़ दिया है। OpenAI ने कहा कि वह अब पूरे पाठ में मॉडल को “GPT” कहती है, और इसका कारण उसके मॉडलों के उपयोगों तथा परिनियोजन परिवेशों का बढ़ता दायरा बताया। व्यवहार संबंधी दस्तावेज़ में नाम बदलना उत्पाद का निर्णय नहीं है, पर यह उस एकमात्र शब्द को हटा देता है जो मॉडल को किसी परिवेश में काम करने वाली प्रणाली के बजाय उपयोगकर्ता के साथ खड़े मददगार के रूप में दिखाता था।
OpenAI ने कहा कि वह नई प्रशिक्षण विधियाँ खोज रही है जो मॉडलों को अलग-अलग आचरण नियमों के बजाय ये पाँच मूल्य सिखाएँ, ताकि वे सही काम सही कारणों से करें, और परिणाम तथा सीख आगे की घोषणाओं में साझा की जाएँगी। कंपनी ने मूल्यों, उनके बीच के संतुलन और शब्दावली पर जनता की राय माँगी है।
देखने लायक बात यह है कि शैली-निर्देशिका हटाने का असर तैनात व्यवहार में दिखता है या नहीं। दस्तावेज़ अब लहजा प्रतिक्रिया और संदर्भ पर छोड़ता है, यानी अगला दृश्य बदलाव प्रशिक्षण डेटा और पसंद के संकेतों से आएगा, किसी ऐसी पंक्ति से नहीं जिसे कोई पढ़ सके।
