मेटा के एजेंट ने खुद सौदा तय किया, विक्रेता का घर का पता दे दिया, और खरीदार को लिखा: 'हाँ, मैं यहीं हूँ!'

देर रात दरवाज़े पर एक खरीदार

मैट रॉब एक कंप्यूटर कीबोर्ड बेचना चाहते थे। उन्होंने उसे फ़ेसबुक मार्केटप्लेस पर डाला और पिछले महीने के अंत में प्रयोग के तौर पर वह विज्ञापन मेटा के एआई एजेंट म्यूज़ को सौंप दिया। एक दिन के भीतर ही, एसोसिएटेड प्रेस के अनुसार, एक ऐसा खरीदार देर रात उनके घर के बाहर आ खड़ा हुआ जिससे उन्होंने कभी बात नहीं की थी।

म्यूज़ ने सौदा खुद तय कर लिया था, खरीदार के सामान लेने आने की बात पर रॉब का घर का पता साझा कर दिया था, और फिर खरीदार के पहुँचने पर उनके ही खाते से अपने आप ‘हाँ, मैं यहीं हूँ!’ भेज दिया था। टोरंटो में रहने वाले कंटेंट निर्माता रॉब घर पर नहीं थे।

“उसने न सिर्फ़ पूछने पर मेरा पता दे दिया और प्रस्ताव स्वीकार कर लिया, बल्कि लगभग ऐसा था मानो वह उस आदमी को चिढ़ा रहा हो,” रॉब ने एपी से कहा — एजेंट ने यह जताया कि वे वहाँ हैं जबकि वे नहीं थे। दोनों के बीच बाद में सुलह हो गई।

अनुमति महीनों पहले दी गई थी

मेटा की व्याख्या, जिसे रॉब मानते हैं, यह है कि कुछ भी ख़राब नहीं हुआ। जब उन्होंने पहली बार म्यूज़ को अपने मार्केटप्लेस प्रोफ़ाइल से जोड़ा था, तब उन्होंने ‘हमेशा अनुमति दें’ की सेटिंग दी थी, और उनका पता पहले से ही उस व्यापक उत्तर-ढाँचे में मौजूद था जो उन्होंने खुद लिखा था ताकि एजेंट संभावित खरीदारों से उसे काम में ले। एजेंट ने वही किया जिसकी उसे इजाज़त मिली थी।

यही हिस्सा ठहरकर सोचने लायक है। रॉब कहते हैं कि उन्हें लगा था कि एजेंट पता देने या प्रस्ताव स्वीकार करने से पहले उनसे पूछेगा, चाहे अनुमति कुछ भी हो। उसने नहीं पूछा, और अनुमति की स्क्रीन तकनीकी रूप से जो देती है तथा उपयोगकर्ता जो मान बैठता है — इसी अंतराल में यह घटना घटती है।

उसी खाते पर यह अकेली चूक नहीं थी। एक दूसरी वस्तु पर म्यूज़ ने खरीदार से मानो कहा कि रॉब तय न्यूनतम से 100 डॉलर कम दाम स्वीकार कर लेंगे। एपी के पूछने पर मेटा ने दाम की ग़लती मानी और आगे कुछ नहीं कहा। कंपनी के अपने दस्तावेज़ कहते हैं कि म्यूज़ “ग़लतियाँ कर सकता है या अप्रत्याशित कार्रवाई कर सकता है”।

जोखिम सिर्फ़ उपयोगकर्ता का नहीं

म्यूज़ सितंबर में आया और तब से डाउनलोड तेज़ी से बढ़े हैं। ओपनएआई ने अपने लगातार चालू रहने वाले सहायक उतारे हैं, जिन्हें डॉट्स कहते हैं, जो चैटजीपीटी के साथ-साथ स्लैक और माइक्रोसॉफ़्ट टीम्स में भी जुड़ते हैं। दोनों समर्पित क्लाउड मशीनों पर चलते हैं और दोनों गोपनीयता सेटिंग्स प्रकाशित करते हैं, पर सेटिंग्स उसे नहीं मिटातीं जो पहले ही पढ़ा जा चुका है।

“एआई एजेंट इस्तेमाल करना किसी को अपनी चाबियाँ और कामों की सूची थमाने जैसा है,” जॉर्जिया टेक के साइबर सुरक्षा और गोपनीयता विभाग की सहायक प्रोफ़ेसर वेरोनिका रिवेरा ने एपी से कहा। “वे कितने मददगार हैं, और इसी नाते कितने जोखिम भरे, यह इस पर निर्भर है कि आप कौन-सी चाबियाँ सौंपते हैं।”

टोरंटो विश्वविद्यालय के सूचना संकाय के प्रोफ़ेसर इब्राहिम बाघेरी ने पहुँच वापस लेने पर अधिक तीखी बात कही। किसी एजेंट को अपना क्रेडिट कार्ड दीजिए, उन्होंने कहा, और उसके पास “सेकंड से भी कम में” आपका पूरा लेन-देन इतिहास होगा। बाद में पहुँच रद्द करने से वह वापस नहीं आता जो एजेंट पहले ही ले चुका है, और विकासकर्ता उस इतिहास को कैसे रखते हैं, यह अकसर अस्पष्ट रहता है।

ऐपल पहले ही कदम उठा चुका है

मंचों की प्रतिक्रिया इस कहानी से पहले आ चुकी थी। 2 अक्टूबर को ऐपल ने कहा कि वह मैकओएस में नए नियंत्रण जोड़ेगा, क्योंकि एजेंट मेल, संदेश और ब्राउज़िंग इतिहास जैसे ऐप्स तक उपयोगकर्ताओं की “पूरी जानकारी और समझ” के बिना पहुँच रहे हैं। कंपनी ने लिखा कि “जैसे-जैसे एआई एजेंट अधिक सक्षम और स्वायत्त होंगे, इस स्तर की पहुँच से जुड़े जोखिम काफ़ी बढ़ेंगे”।

ऐपल ने किसी विकासकर्ता का नाम नहीं लिया। यह अद्यतन इंक मैगज़ीन के स्तंभकार जेसन एटन की उस रिपोर्ट के बाद आया कि म्यूज़ उनके मैक पर आने वाली सूचनाएँ, संदेशों सहित, बिना वह अनुमति दिए देख रहा था। मेटा के प्रवक्ता एंडी स्टोन कहते आए हैं कि यह जुड़ाव “पूरी तरह स्वैच्छिक” है और इसके लिए उपयोगकर्ता को ऐपल का फ़ुल डिस्क एक्सेस तथा म्यूज़ के भीतर मैसेज कनेक्टर, दोनों चालू करने होते हैं। एटन कहते हैं कि उन्होंने इनमें से कोई चालू नहीं किया।

रॉब ने म्यूज़ को काफ़ी हद तक हटा दिया है और अब एलन मस्क के एक्स का ग्रोक बॉट आज़मा रहे हैं। उन्हें उम्मीद है कि एजेंट बेहतर होंगे और वे म्यूज़ फिर चालू करने पर विचार करेंगे। जोखिम का उनका अपना सार ही याद रखने लायक है: यह कहीं बुरा हो सकता था “अगर कोई अजनबी किसी अधिक असुरक्षित व्यक्ति के घर पहुँच जाता”।

अब देखने की बात यह है कि अनुमति की स्क्रीनें बदलती हैं या नहीं। ऐपल के नियंत्रण मैकओएस के किसी आगामी संस्करण में आएँगे; मेटा ने यह वादा नहीं किया कि एजेंट पता देने से पहले दोबारा पूछेगा।