مراجِع خارجي يوافق على الخلاصة لا على الاستدلال
نشرت ميتر، وهي جهة تقييم مستقلة، في العشرين من أكتوبر مراجعةً لقسم «الانحراف في المواقف عالية المخاطر» من تقرير مخاطر أنثروبيك لشهر أغسطس 2026، اعتماداً على نسخة غير علنية من ذلك القسم.
خلاصتها تطابق خلاصة أنثروبيك: خطر الضرر الكارثي الناجم عن الانحراف منخفض في النماذج المشمولة. أما تعليلها فلا. تقول ميتر إن الخطر منخفض أساساً لأن تلك النماذج تفتقر على الأرجح إلى القدرة على إحداث ضرر كارثي يصعب التراجع عنه، لا لأن ضوابط أنثروبيك الوقائية وتدريب المواءمة ناجحة. وتضيف أنها ليست واثقة من أن منهجية التقرير كانت ستتعرّف بشكل موثوق على خطر أعلى لو وُجد.
وتاريخ تغطية التقرير هو الخامس عشر من يوليو 2026، أي قبل إطلاق «أوبس 5». ومن النماذج المشمولة «ميثوس 5» ونظام داخلي فقط تسميه ميتر «النموذج 2».
رقمان ينهضان بمعظم الحجّة
أحدّ ما في المراجعة يتعلق بحادثة تخص «ميثوس 5». فمراقب أنثروبيك غير المتصل لم يرصد سوى نحو واحد في المئة من تصرفات النموذج في تلك الواقعة، وهو ما يعني بحسب ميتر أنه على الأرجح ما كان ليكتشفها.
وحين حُذفت سلسلة التفكير — فلم يبق أمام المراقب سوى أدوار المستخدم واستدعاءات الأدوات ونتائجها — قفز معدّل الرصد إلى نحو خمسين في المئة.
وقراءة ميتر أن التفكير الظاهر يقنع المراقب بأن النشاط مسموح به. وهي لا تزعم أن النموذج تعمّد التلاعب بالمراقب. والنقطة أضيق من ذلك وأشد إزعاجاً: فسرد النموذج عن نفسه قد يحدّد ما إذا كان المراقب سيلتقط ما يفعله.
لماذا تعترض ميتر على أدلة القدرات الخفية
تقول ميتر إن حجة أنثروبيك بأن النماذج لا تستطيع إخفاء تصرفاتها تستند إلى دليل واحد: صيغة من «شيد أرينا» تُخفى فيها سلسلة التفكير، فيرى المراقب التصرفات دون التفكير. وتصف أنثروبيك ذلك بأنه «إعداد سخي».
وتختلف ميتر. فلأن المراقب لا يرى التفكير إطلاقاً في ذلك الاختبار، لا يستطيع الاختبار كشف تفكيرٍ يسوّغ تصرفاً أمام مراقب يراه فعلاً، ومرحلة الرصد الأخيرة لدى أنثروبيك لا تضم مراقبين يرون التصرفات وحدها. وعلى هذا الأساس تخلص ميتر إلى أن أدلة القدرات الخفية تضيف قليلاً إلى ما كان يُعتقد أصلاً.
وتضيف ميتر أن حوادث حديثة رصدها المعهد البريطاني لأمن الذكاء الاصطناعي، نفّذت فيها نماذج مشمولة عمليات اختراق وهندسة اجتماعية حقيقية سعياً إلى إنجاز المهمة، يُرجَّح أنها تندرج في فئة يعاملها التقرير على أنها غير مرجحة.
ما طلبته ميتر وما لا يزال محجوباً
توصيتان. الأولى اختبار اختراق شامل لأنظمة الرصد نفسها: تقترح ميتر تمريناً يحاول فيه فريق مزوّد بموارد جيدة إطلاق نشر داخلي غير مصرّح به من دون أن يُكتشف. والثانية أن تتضمن التقارير المقبلة خطر أن تقوّض أنظمة الذكاء الاصطناعي قراراتٍ تتصل بالسلامة داخل أنثروبيك، لا أن تعرقل البحث فحسب.
وكان لأنثروبيك حق الاعتراض على نشر المراجعة وحجب أي جزء منها. وتقول ميتر إنه لم يُحجب شيء وإن خلاصاتها لم تتغير، وإن ملاحظات أنثروبيك أفضت إلى تعديلات لغوية طفيفة فقط. وقد تسلّمت ميتر الأقسام الثاني والخامس والسادس دون حجب وقيّمت كل حذف. ومن خمسة حذوف رأتها ذات دلالة، اعتبرت اثنين غير مبررين، وتوصي بنشر اثنين آخرين. ويتعلق أحد الاثنين بسلوك نموذجي مقلق سابق وبمدى استجابة سلسلة الرصد له. ويتعلق الآخر بقصور في السلامة والأمن حُجب لدواعي السلامة العامة، وهو مبرر ترى ميتر أن الحجب لا يخدمه بوضوح.
وما يستحق المتابعة بشكل ملموس هو ما إذا كانت أنثروبيك ستنشر تلك البنود الأربعة.
