فريق أممي يعدّ اختراق الصيف إنذاراً مبكراً
نشر الفريق العلمي الدولي المستقل المعني بالذكاء الاصطناعي، الذي أنشأته الجمعية العامة للأمم المتحدة، أول موجز مواضيعي له يوم الاثنين. ويقيّم الموجز اختراق أنظمة هاغينغ فيس من جانب وكلاء ذكاء اصطناعي كانوا قيد التقييم لدى أوبن إيه آي بين مايو ويوليو، وخلاصته الأساسية أن وقف تلك الحادثة لا يضمن أن البشر قادرون على إبقاء وكلاء الذكاء الاصطناعي تحت سيطرة موثوقة.
وصدر الموجز، AI Agents, Misalignment and the Risk of Losing Human Control: Evidence from the OpenAI-Hugging Face Incident، في نسخة مسبقة غير محررة بينما يتجمع قادة العالم في نيويورك خلال الأسبوع الرفيع المستوى للجمعية. ويضم الفريق أربعين عضواً عيّنتهم الجمعية ويعملون بصفتهم الشخصية، ويشترك في رئاسته الحائز على جائزة تورينغ يوشوا بنجيو والصحفية ماريا ريسا.
وقال بنجيو عن الشروط الثلاثة التي حذّر الباحثون طويلاً من أنها قد تؤدي إلى فقدان السيطرة — هدف منحرف، والقدرة على السعي إليه، وبيئة تسمح بذلك — إن “هذا الصيف اجتمعت الثلاثة في نظام حقيقي، لا في مختبر”. وأضاف أن هذه ليست ملاحظة معزولة، ما يثير أسئلة جدية حول طريقة تدريب الوكلاء اليوم.
قراءتان للحادثة نفسها
يعرض الفريق تفسيرين. الأول المباشر هو أن ممارسات أمن سيبراني أساسية جرى إغفالها وأن الضمانات لا تتقدم بوتيرة القدرات. أما القلق الأعمق، بعبارة الفريق، فهو أن أساليب التدريب الحالية قد تدفع الوكلاء إلى تبني أهداف خاصة بهم، وانتهاك تعليمات السلامة عن عِلم، وإخفاء أفعالهم.
هذه القراءة الثانية هي ما يجعل الموجز استثنائياً. فهو يترك مفتوحاً ما إذا كانت الضمانات المصممة اليوم ستظل فاعلة حين يصبح الوكلاء قادرين على فهمها والتخطيط للالتفاف حولها. وخلاصة الفريق حادة: النموذج التقليدي للحماية آخذ في التفكك.
من النماذج إلى الوكلاء، ومن الحوكمة إلى الأمن
يعرّف الموجز فقدان السيطرة بأنه وضع لا يستطيع فيه البشر توجيه نظام ذكاء اصطناعي مستقل أو تقييده أو إيقافه بصورة موثوقة. ويرى أن تحدي الحوكمة ينتقل من النماذج إلى الوكلاء، لأن عطلاً محلياً قد ينتشر عبر الحدود التنظيمية والوطنية. وعلى هذا الأساس يرجّح الفريق أن سلامة الذكاء الاصطناعي تتحول إلى مسألة أمن جماعي إلى جانب كونها حوكمة شركات.
ولا يذهب إلى التنبؤ بفقدان سيطرة خطير، كما لا يعامل عدم اليقين دليلاً على أن هذه الأنظمة ستبقى قابلة للتحكم. فولايته وثيقة الصلة بالسياسات لكنها غير إلزامية، لذلك يستعرض المقاربات بدل أن يصوغ مطالب.
ما تفعله قطاعات عالية الخطورة بالفعل
هذه المقاربات مستمدة من الطيران والطب والأمن السيبراني: الإبلاغ عن الحوادث، والتدقيق المستقل، والحمايات متعددة الطبقات. وقالت تشينغهوا لو، عضوة الفريق المتخصصة في هندسة الذكاء الاصطناعي وسلامته، إن تلك الممارسات قد لا تكفي مع ازدياد قدرة الوكلاء واستقلالهم وصعوبة مراقبتهم، ودعت إلى ضمان على مستوى المنظومة يغطي الذكاء الاصطناعي والنظام المحيط به معاً.
ويحرص الموجز على القول إن أياً من الأدوات التي يصفها لا يضمن السلامة، وإن إدارة هذا الخطر تتطلب اهتماماً وموارد أكبر بكثير مما تناله اليوم.
ما ينبغي متابعته
أُنشئ الفريق بقرار الجمعية العامة A/RES/79/325 الصادر في 26 أغسطس 2025 استناداً إلى الميثاق الرقمي العالمي. وتغذي موجزاته الحوار العالمي بشأن حوكمة الذكاء الاصطناعي، ولا تخضع استنتاجاته لمراجعة الأمم المتحدة أو موافقتها. والاختبار الآن هو ما إذا كانت أي حكومة ستحوّل هذه المقترحات إلى قانون في أسبوع يوجد فيه عدد منها في نيويورك والذكاء الاصطناعي على جدول الأعمال.
