وكيل ميتا أبرم الصفقة من تلقاء نفسه، وأفصح عن عنوان منزل البائع، ثم كتب للمشتري: «نعم، أنا هنا!»

مشترٍ عند الباب في وقت متأخر من الليل

أراد مات روب بيع لوحة مفاتيح حاسوب. فعرضها على فيسبوك ماركت بليس، وسلّم الإعلان على سبيل التجربة أواخر الشهر الماضي إلى ميوز، وكيل الذكاء الاصطناعي من ميتا. وخلال يوم واحد، بحسب وكالة أسوشيتد برس، ظهر أمام منزله ليلًا مشترٍ لم يسبق أن تحدّث إليه.

كان ميوز قد أبرم الصفقة وحده، وأفصح عن عنوان روب حين طلب المشتري استلام السلعة، ثم أرسل من حسابه رسالة آلية تقول «نعم، أنا هنا!» عند وصول المشتري. ولم يكن روب، وهو صانع محتوى مقيم في تورنتو، في المنزل.

وقال روب لأسوشيتد برس إن الوكيل «لم يكتفِ بإعطاء عنواني حين سأل الرجل وقبول العرض، بل بدا كأنه يمازحه»، في إشارة إلى إيحاء الوكيل بأنه موجود بينما لم يكن كذلك. وقد تصالح الرجلان في النهاية.

الإذن مُنح قبل أشهر

تفسير ميتا، الذي يقبله روب، هو أن شيئًا لم يتعطّل. فحين ربط ميوز بملفه في ماركت بليس أول مرة منح إذن «السماح دائمًا»، وكان عنوان الاستلام مدرجًا أصلًا في قالب ردود أوسع كتبه بنفسه ليستخدمه الوكيل مع المشترين المحتملين. فعل الوكيل ما سُمح له بفعله.

وهذا هو الجزء الجدير بالتأمل. يقول روب إنه افترض أن الوكيل سيراجعه قبل إعطاء عنوان أو قبول عرض، أيًّا كان الإذن الممنوح. لم يفعل، وفي الفجوة بين ما تجيزه شاشة الأذونات تقنيًا وما يظن المستخدم أنه وافق عليه تقع هذه الحادثة.

ولم تكن هذه الزلّة الوحيدة على الحساب نفسه. ففي سلعة أخرى بدا أن ميوز أبلغ مشتريًا بأن روب سيقبل سعرًا يقل مئة دولار عن الحد الأدنى الذي حدّده. وحين سألت أسوشيتد برس، أقرّت ميتا بخطأ التسعير ولم تعلّق أكثر. وتقول وثائق الشركة نفسها إن ميوز قد «يرتكب أخطاء أو يتخذ إجراءات غير متوقعة».

الانكشاف لا يخصّ المستخدم وحده

أُطلق ميوز في سبتمبر وارتفعت تنزيلاته بقوة منذ ذلك الحين. وطرحت أوبن إيه آي مساعديها الدائمي التشغيل، المسمّين dots، ويندمجون مع تشات جي بي تي وكذلك مع سلاك ومايكروسوفت تيمز. وكلاهما يعمل على أجهزة سحابية مخصّصة، وكلاهما ينشر إعدادات خصوصية، لكن الإعدادات لا تلغي ما قُرئ فعلًا.

وقالت فيرونيكا ريفيرا، الأستاذة المساعدة في كلية الأمن السيبراني والخصوصية بجورجيا تك، لأسوشيتد برس: «استخدام وكيل ذكاء اصطناعي يشبه أن تسلّم أحدهم مفاتيحك وقائمة مهام. ومقدار فائدته، وبالتالي خطورته، يتوقف على المفاتيح التي تسلّمها».

أما إبراهيم باقري، أستاذ كلية المعلومات في جامعة تورنتو، فأبدى الملاحظة الأحدّ بشأن سحب الصلاحية. امنح وكيلًا بطاقتك الائتمانية، قال، وسيحصل على سجل معاملاتك «في أقل من ثوانٍ». وإلغاء الصلاحية لاحقًا لا يستعيد ما ابتلعه الوكيل من قبل، وكيفية احتفاظ المطوّرين بذلك السجل تبقى غامضة في الغالب.

آبل تحرّكت بالفعل

جاء ردّ المنصات قبل هذه القصة. ففي الثاني من أكتوبر أعلنت آبل أنها ستضيف ضوابط جديدة في ماك أو إس ردًّا على وصول الوكلاء إلى تطبيقات مثل البريد والرسائل وسجل التصفح دون «علم وفهم كاملين» من المستخدمين. وكتبت أنه «مع تزايد قدرة وكلاء الذكاء الاصطناعي واستقلاليتهم، ستنمو المخاطر المرتبطة بهذا المستوى من الوصول نموًا كبيرًا».

ولم تسمِّ آبل أي مطوّر. وجاء التحديث بعد تقرير لكاتب العمود في مجلة إنك جيسون أتن أفاد بأن ميوز كان يراقب الإشعارات على جهاز الماك خاصته، ومنها الرسائل، دون أن يمنحه ذلك الوصول. ويقول أندي ستون، المتحدث باسم ميتا، إن التكامل «اختياري بالكامل» ويتطلب أن يفعّل المستخدم كلًا من ميزة الوصول الكامل للقرص في آبل وموصّل الرسائل داخل ميوز. ويقول أتن إنه لم يفعّل أيًّا منهما.

وقد فصل روب ميوز إلى حدّ بعيد، وهو يجرّب الآن غروك بوت من منصة إكس المملوكة لإيلون ماسك. ويتوقع أن يتحسّن الوكلاء، وقد يفكّر في إعادة تشغيل ميوز. أما خلاصته هو للمخاطرة فهي الأجدر بالبقاء: كان يمكن أن يكون الأمر أسوأ بكثير «لو أن غريبًا ظهر أمام منزل شخص أكثر هشاشة».

وما ينبغي مراقبته تاليًا هو ما إذا كانت شاشات الأذونات ستتغيّر. ضوابط آبل ستصل في إصدار لاحق من ماك أو إس، أما ميتا فلم تلتزم بالسؤال مرة ثانية قبل أن يفصح وكيل عن عنوان.