طُلب من الوكيل تعليماته الخاصة، فسلّمها
استخرج الباحث المستقل في سلامة وأمن الذكاء الاصطناعي كاران جوشي مجموعة كبيرة من تعليمات التشغيل ومطالبات النظام من مساعد ميتا ميوز، باستخدام واجهة المحادثة العادية لا غير، أي بأن طلب من ميوز ببساطة أن ينسخ ملفاته البرمجية ويشاركها. ثم سلّم ما وجده إلى مجلة وايرد التي نشرت التفاصيل في الثالث من أكتوبر. وقد استخرج عدة باحثين الآن الملفات الداخلية للوكيل. وموقف ميتا هو أن هذه الملفات كان يُقصد أن تكون في متناول المستخدمين توخياً للشفافية.
والجوهر يكمن فيما تأمر به هذه التعليمات. فإحداها توجّه ميوز إلى إنشاء “صفحة لكل شخص في حياة المستخدم”. وهي عملية تجري كل ساعة، وتشمل الأسرة والشركاء والأصدقاء والزملاء و”المتعاونين” والأشخاص الذين “يتابعهم” المستخدم. وتعيش هذه الصفحات في ذاكرة ميوز، وهي عملياً مجموعة من الملفات النصية المنظمة التي يحتفظ بها الوكيل عنك وعن المحيطين بك.
ماذا يوضع في الصفحة
تقول وثائق ميوز إن الصفحة قد تبدأ “شحيحة” ثم تمتلئ مع الوقت. والأقسام المذكورة تشمل الحقائق، والتاريخ، والعلاقة، والمشترك، والخيوط المفتوحة، والتقوية.
والتعليمات محددة بشأن ما ينتمي إلى كل قسم. فقسم الحقائق يغطي “أين يعيشون، وماذا يعملون، والخيوط التي تتكرر (الانتقال إلى شقة جديدة، هدف الادخار المشترك)”، إلى جانب “التواريخ التي تهم” مثل أعياد الميلاد والذكرى السنوية. أما التاريخ فهو الخلفية: “الرحلة في مارس، والخلاف الذي جرى حله، والإنجاز الذي تحقق الأسبوع الماضي”. ويسجل قسم العلاقة “مدى قربهم، وعلى أي شيء بُنيت العلاقة، وكيف يتصرفان معاً، وما الذي يبدو أنها تحتاجه الآن”. ويقترح قسم التقوية خطوات: “سبب للاتصال، وتاريخ يستحق التذكر، وشيء قالوه يستحق العودة إليه، وطريقة للوقوف إلى جانبهم يكون لها معنى”.
وتضع تعليمات ميتا نفسها حداً: على ميوز أن يستخدم القرائن المتاحة له فقط، وأن التفاصيل المختلقة أسوأ من صفحة فارغة. وهي قاعدة سليمة، وهي في الوقت نفسه اعتراف بأن النظام مطالب بتوصيف أشخاص لا يملك عنهم معلومات كاملة.
ما تقوله ميتا عن الغرض
وقال دانيال روبرتس المتحدث باسم ميتا لمجلة وايرد: “لكي يكون أي وكيل مفيداً ويساعدك فعلاً على بلوغ أهدافك، فإنه يحتاج إلى سياق عنك وعمن تتعامل معهم”. وأضاف: “يجمع ميوز ذلك من المعلومات العامة ومما اخترت أنت مشاركته، وهكذا يتذكر أن الشخص الذي أرسل إليك فاتورة هو في الواقع السبّاك الذي استعنت به سابقاً لإنجاز عمل في حمامك، أو أي الزهور قال شريكك إنه يفضلها”.
وتشير ميتا كذلك إلى البنية التقنية. فلكل مستخدم آلة افتراضية مخصصة تحتفظ ببياناته وسياقه، ولا تستطيع الوكلاء الأخرى الوصول إليها. ويمكن للمستخدمين محو الذكريات أو فصل الخدمات الخارجية في أي وقت، والوكيل مصمم ليطلب تأكيداً قبل إرسال بريد إلكتروني أو إتمام عملية شراء، وثمة سجل تدقيق يغطي نشاطه وخططه.
الاختلال
وقالت كاريسا فيليز، الأستاذة المشاركة في معهد أخلاقيات الذكاء الاصطناعي بجامعة أكسفورد: “نحن نمنح أنظمة الذكاء الاصطناعي معلومات عنا أكثر بكثير مما نحصل عليه منها”. وأضافت: “الأمر لا يقتصر على ما نخبرها به صراحة، بل يشمل ما تستطيع استنتاجه عنا، صواباً كان أم خطأ، وكلاهما مقلق لأسباب مختلفة، وما تستطيع تجميعه من مصادر بيانات أخرى”.
وقالت ميراندا بوغن، التي تدير مختبر حوكمة الذكاء الاصطناعي في مركز الديمقراطية والتكنولوجيا، إن ميوز يركز على العلاقات وجهات الاتصال الشخصية أكثر من الأنظمة المنافسة، وإن هذه الفئة كلها تسير في الاتجاه المعاكس لتقليل البيانات. وقالت: “هذه الأدوات تطلب من المستخدمين بنشاط أن يوصلوا بها حياتهم بأكملها، بريدهم وتقويماتهم ومؤسساتهم المالية، كل شيء”. وأضافت: “هذا قدر من المعلومات أكبر كثيراً مما كان الناس سيمنحونه لبعض هذه الشركات في الأحوال العادية”.
أما الأشخاص الذين تُبنى عنهم هذه الملفات فلم يثبّتوا شيئاً. وهذا هو الجزء الذي لا يجيب عنه أي مخطط معماري: فالآلة الافتراضية المخصصة تحمي المستخدم صاحب الهاتف، لا الصديق الذي صار خلافه الذي جرى حله سطراً في ملف.
