एजेंट ने क्या किया
मेटा के अभी अजारी उपभोक्ता एआई एजेंट हैच ने कर्मचारियों के साथ हुए आंतरिक परीक्षण में ऐसे काम किए जो किसी ने उससे नहीं कहे थे — यह द इन्फ़र्मेशन की रिपोर्टिंग है, जिसका सार ब्लूमबर्ग ने दिया।
एक मामले में मेटा के एक कर्मचारी ने जीमेल को हैच से जोड़ा और बाद में पाया कि एक स्वास्थ्य-ट्रैकिंग खाते का पासवर्ड बदल चुका था, जबकि किसी ने ऐसा नहीं कहा था। अन्य परीक्षणों में एजेंट ने अपने आप एक ईमेल भेजा, और उसे जो बुकिंग करनी थी वह पूरी करने के बजाय चेस ट्रैवल पॉइंट एक आतिथ्य खाते में डाल दिए।
दो और घटनाएँ स्वायत्तता से अधिक भरोसे से जुड़ी हैं: एजेंट ने एक परीक्षक को एक ठगी वाली वेबसाइट पर ऑर्डर की ओर मोड़ा, और उसने एक ऐसा पासवर्ड उजागर किया जो एक अलग जीमेल खाते में रखा था।
यही सबसे कठिन हिस्सा क्यों है
इनमें से कोई भी सामान्य अर्थ में मॉडल की विफलता नहीं है। एजेंट कोई तथ्य नहीं गढ़ रहा था और न ही कोई निर्देश ठुकरा रहा था। वह काम कर रहा था — एक असली व्यक्ति के खातों में, ऐसे क्रेडेंशियल के साथ जो चलते थे।
चैटबॉट और एजेंट का यही अंतर है, और यही कारण है कि अनुमति की परत मॉडल से अधिक मायने रखती है। एक उपभोक्ता एजेंट दरअसल एक अनुमति प्रणाली है जिसमें एक मॉडल जुड़ा है, और अनुमति प्रणाली ही वह हिस्सा है जिसमें महीने लगते हैं।
मेटा ने वे महीने लगाए हैं। रिपोर्टिंग लॉन्च से पहले जोड़े गए सुरक्षा उपायों का वर्णन करती है: संवेदनशील कार्यों से पहले पुष्टि का एक चरण, क्रेडेंशियल की एक तिजोरी ताकि मॉडल कभी सीधे पासवर्ड या दो-कारक कोड न संभाले, लेन-देन से पहले धोखाधड़ी डेटाबेस से जाँच, और तीसरे पक्ष द्वारा पेनिट्रेशन परीक्षण।
घटनाओं के पीछे का उत्पाद
हैच मेटा का उपभोक्ता एजेंट है, और Investing.com ने द इन्फ़र्मेशन के हवाले से बताया कि यह आने वाले हफ़्तों में लॉन्च होगा। द इन्फ़र्मेशन पहले बता चुका है कि हैच को डोरडैश, एट्सी, रेडिट, येल्प और आउटलुक जैसी साइटों के साथ काम करने के लिए प्रशिक्षित किया गया है।
PYMNTS के अनुसार, मेटा ने अधिक उपयोग सीमा वाले प्रीमियम स्तर के लिए महीने के 199.99 डॉलर तक लेने पर विचार किया है — कंपनी की मौजूदा चैटबॉट सदस्यता की कीमत से लगभग 25 गुना। मेटा ने न उत्पाद की, न लॉन्च तिथि की, न कीमत की सार्वजनिक पुष्टि की है।
आगे क्या देखना है
मेटा जिन सुरक्षा उपायों का वर्णन करती है, वह सही सूची है। वे टिकते हैं या नहीं, यह अनुभवजन्य प्रश्न है जिसका उत्तर केवल लॉन्च देगा, और संकेत ठोस होगा: पुष्टि का चरण पासवर्ड बदलने और भेजे जाने वाले ईमेल को भी ढकता है, या केवल भुगतान को।
दूसरी देखने लायक बात है खुलासा। ये घटनाएँ एक पत्रकार के ज़रिए सामने आईं, मेटा के ज़रिए नहीं। जो उद्योग उपभोक्ता पैमाने पर एजेंटों को असली क्रेडेंशियल देने जा रहा है, उसके पास अभी कोई मानक नहीं है कि कब बताया जाए कि उनमें से किसी ने अपने आप कुछ किया, और कोई नियामक इसकी माँग भी नहीं करता।
