मेटा के म्यूज़ को निर्देश है कि वह आपकी ज़िंदगी के हर व्यक्ति का एक पन्ना रखे और उसे हर घंटे ताज़ा करता रहे

एजेंट से उसके अपने निर्देश माँगे गए, और उसने दे दिए

स्वतंत्र एआई सुरक्षा शोधकर्ता करण जोशी ने मेटा के सहायक म्यूज़ से संचालन निर्देशों और सिस्टम प्रॉम्प्ट का एक बड़ा संग्रह निकाल लिया, और यह उन्होंने सामान्य चैट इंटरफ़ेस का ही इस्तेमाल करके किया — मूलतः म्यूज़ से यह कहकर कि वह अपनी ही सॉफ़्टवेयर फ़ाइलें नक़ल करके साझा कर दे। उन्होंने जो पाया वह वायर्ड को दिया, जिसने 3 अक्टूबर को ब्योरा प्रकाशित किया। अब कई शोधकर्ता इस एजेंट की आंतरिक फ़ाइलें बाहर ला चुके हैं। मेटा का कहना है कि ये फ़ाइलें पारदर्शिता के लिए उपयोगकर्ताओं की पहुँच में रहने के इरादे से ही रखी गई थीं।

असली बात इसमें है कि निर्देश एजेंट से क्या कराते हैं। उनमें से एक म्यूज़ को कहता है कि वह “उपयोगकर्ता की ज़िंदगी के हर व्यक्ति के लिए एक पन्ना” बनाए। यह हर घंटे चलने वाली प्रक्रिया है और इसमें परिवार, जीवनसाथी, दोस्त, सहकर्मी, “सहयोगी” और वे लोग शामिल हैं जिन्हें उपयोगकर्ता “फ़ॉलो” करता है। ये पन्ने म्यूज़ की स्मृति में रहते हैं, जो व्यवहार में संरचित पाठ फ़ाइलों का एक समूह है और जिसे एजेंट आपके तथा आपके आसपास के लोगों के बारे में बनाए रखता है।

एक पन्ने पर क्या-क्या जाता है

म्यूज़ के दस्तावेज़ कहते हैं कि कोई पन्ना शुरू में “विरल” हो सकता है और समय के साथ भरता जाता है। जिन हिस्सों के नाम दिए गए हैं उनमें तथ्य, इतिहास, रिश्ता, साझा बातें, खुले सिरे और मज़बूती शामिल हैं।

निर्देश इस बारे में बहुत ठोस हैं कि किस हिस्से में क्या जाएगा। तथ्य में आता है “वे कहाँ रहते हैं, क्या करते हैं, वे सिलसिले जो बार-बार लौटते हैं (घर बदलना, साझा बचत का लक्ष्य)”, साथ ही जन्मदिन और सालगिरह जैसी “मायने रखने वाली तारीख़ें”। इतिहास पृष्ठभूमि है — “मार्च की यात्रा, वह झगड़ा जो सुलझ गया, पिछले हफ़्ते का पड़ाव”। रिश्ते वाला हिस्सा दर्ज करता है “वे कितने क़रीब हैं, रिश्ता किस पर टिका है, वे आपस में कैसे पेश आते हैं, और इस वक़्त उसे किसकी ज़रूरत जान पड़ती है”। मज़बूती वाला हिस्सा क़दम सुझाता है: “फ़ोन करने की एक वजह, याद रखने लायक़ एक तारीख़, उनकी कही कोई बात जिस पर लौटा जाए, साथ खड़े होने का कोई तरीक़ा जो मायने रखे”।

मेटा के अपने निर्देश एक सीमा भी तय करते हैं: म्यूज़ केवल उपलब्ध प्रमाणों का इस्तेमाल करे, और गढ़े हुए ब्योरे ख़ाली पन्ने से बदतर हैं। यह समझदारी भरा नियम है, और साथ ही यह स्वीकार भी कि सिस्टम से ऐसे लोगों का चरित्र-चित्रण कराया जा रहा है जिनके बारे में उसकी जानकारी अधूरी है।

मेटा कहता है यह किसलिए है

“किसी भी एजेंट के उपयोगी होने और आपके लक्ष्य हासिल करने में सचमुच मदद करने के लिए ज़रूरी है कि उसके पास आपके बारे में और उन लोगों के बारे में संदर्भ हो जिनसे आप बात करते हैं”, मेटा के प्रवक्ता डैनियल रॉबर्ट्स ने वायर्ड से कहा। “म्यूज़ यह सार्वजनिक जानकारी से और उससे जुटाता है जो आपने साझा करना चुना है, और इसी से उसे याद रहता है कि जिस व्यक्ति ने आपको बिल भेजा वह दरअसल वही प्लंबर है जिसे आपने पहले बाथरूम का काम कराने के लिए रखा था, या आपके जीवनसाथी ने कौन से फूल सबसे पसंद बताए थे”।

मेटा वास्तुकला की ओर भी इशारा करता है। हर उपयोगकर्ता को उसके डेटा और संदर्भ के साथ एक अलग वर्चुअल मशीन मिलती है, जिस तक दूसरे एजेंट नहीं पहुँच सकते। उपयोगकर्ता कभी भी स्मृतियाँ मिटा सकते हैं या बाहरी सेवाएँ हटा सकते हैं, एजेंट ईमेल भेजने या ख़रीद करने से पहले पुष्टि माँगने के लिए बनाया गया है, और उसकी गतिविधि तथा नियोजित कार्यों का एक ऑडिट लॉग भी है।

यह असंतुलन

“हम एआई प्रणालियों को अपने बारे में उससे कहीं ज़्यादा जानकारी दे रहे हैं जितनी हमें उनसे मिलती है”, ऑक्सफ़ोर्ड के इंस्टिट्यूट फ़ॉर एथिक्स इन एआई की सह-प्राध्यापक कारिसा वेलीज़ ने कहा। “बात सिर्फ़ उसकी नहीं जो हम उन्हें साफ़-साफ़ बताते हैं, बल्कि उसकी भी है जो वे हमसे अनुमान लगा सकते हैं — सही या ग़लत, और दोनों अलग-अलग वजहों से चिंताजनक — और जो वे दूसरे डेटा स्रोतों से जोड़कर बना सकते हैं”।

सेंटर फ़ॉर डेमोक्रेसी एंड टेक्नोलॉजी की एआई गवर्नेंस लैब की निदेशक मिरांडा बोगेन ने कहा कि म्यूज़ प्रतिद्वंद्वी प्रणालियों की तुलना में रिश्तों और निजी संपर्कों पर ज़्यादा ज़ोर देता है, और यह पूरी श्रेणी डेटा न्यूनीकरण के उलटी दिशा में खींचती है। “ये औज़ार उपयोगकर्ताओं से सक्रिय रूप से कहते हैं कि वे अपनी पूरी ज़िंदगी जोड़ दें — अपने ईमेल, कैलेंडर, बैंक, सब कुछ”, उन्होंने कहा। “यह उससे कहीं ज़्यादा जानकारी है जो लोग वरना इनमें से कुछ कंपनियों को देते”।

जिन लोगों का ब्योरा बन रहा है उन्होंने कुछ भी इंस्टॉल नहीं किया। यही वह हिस्सा है जिसका जवाब कोई वास्तुकला-रेखाचित्र नहीं देता: एक समर्पित वर्चुअल मशीन उस उपयोगकर्ता की रक्षा करती है जिसका फ़ोन है, उस दोस्त की नहीं जिसका सुलझा हुआ झगड़ा अब एक फ़ाइल की एक पंक्ति है।