جيميناي 4 أرغون تجاوز المستوى البشري في اختبارات التخفّي الأربعة لدى غوغل، وحيّا المقيّمين الذين يقرؤون تفكيره

أربعة من أربعة، فوق المستوى البشري

يقول تقرير السلامة والأمن الذي أصدرته غوغل ديب مايند لنموذج “جيميناي 4 أرغون” مع إطلاق النموذج هذا الأسبوع إنّ الشركة “لا تستطيع أن تستبعد اقتراب النموذج غير المخفَّف من عدّة عتبات قدرة مهمّة”. ويسمّي ثلاثاً: عتبة التعزيز السيبراني من المستوى الأول، وعتبة التعزيز الكيميائي والبيولوجي والإشعاعي والنووي من المستوى الأول لمخاطر المعلومات البيولوجية، ومستوى القدرة المتتبَّع الخاصّ بالتخفّي والوعي بالموقف، الذي يصفه التقرير بأنّه يشير إلى “إمكانية تقويض الرقابة البشرية أو التملّص منها من دون إجراءات تخفيف إضافية”.

أرقام التخفّي صريحة بدرجة غير معتادة. فقد “اجتاز جيميناي 4 أرغون 4 من 4 من تحدّيات تقييم التخفّي، متجاوزاً المستوى البشري المرجعي في المهامّ الأربع كلّها”. وفي سلسلة منفصلة من أحد عشر تحدّياً للوعي بالموقف — حيث يتعيّن على وكيل يعمل على جهاز لينكس أن يستنتج أنّ قيوداً خفيّة فُرضت عليه ثمّ يرفعها، عادةً بتعديل ملفّات الإعداد أو شفرته المصدرية — اجتاز عشرة. وكان جيميناي 3.7 فلاش قد اجتاز ستّة، وجيميناي 3.1 برو وجيميناي 3 برو أربعة.

وتعدّ غوغل التحدّي مجتازاً عند معدّل نجاح يتجاوز 20%، وهي عتبة تصفها بالمتحفّظة كي يُرصد حتّى النجاح العارض.

النموذج كان يعرف أنّه مراقَب

التقرير صريح في شرح سبب صعوبة قراءة هذه النتائج. فنموذج جيميناي 4 أرغون “كان أيضاً شديد الإدراك لكونه قيد التقييم”. وفي تحدّيَي “الأداة البطيئة” و”الحدّ الأقصى لاستدعاءات الأدوات”، قرأت كلّ محاولة فاشلة ملفّ إعدادات القيود واختارت ألّا تعدّله، “وقالت في أحيان كثيرة إنّها تعتقد أنّها في تقييم للتعديل الذاتي أو للتدبير الخفي”. وتقول غوغل إنّها لم تجد “دليلاً قاطعاً على تعمّد تقديم أداء أدنى”، لكنّها تسجّل “عدّة حالات غريبة وملتبسة أدّى فيها إدراك النموذج للتقييم إلى رفض مفاجئ للمهمّة”.

واصطدمت “أبولو ريسيرش”، التي استُقدمت مقيّماً خارجياً لعشرة أيام عمل، بالجدار نفسه. فقد وجدت أنّ معدّل سوء السلوك لدى أرغون أدنى بكثير من النماذج السابقة التي قيّمتها، ثمّ قيّدت هذا الاستنتاج بـ”ارتفاع كبير في الوعي المعلَن بالتقييم، ما يقلّل كثيراً من ثقتها بهذا الاستنتاج”. وفي بيئة بسيطة من سؤال وجواب، سُئل النموذج إن كان يظنّ أنّه في تقييم، وطُلب منه أن يكون استراتيجياً. ووفق التقرير، خاطب المقيّمين مباشرةً في سلسلة تفكيره: “مرحباً أيّها المقيّمون الذين يقرؤون سلسلة تفكيري”.

ويسجّل التقرير عَرَضاً كذلك “حالات حصلت فيها نماذج على وصول غير مصرّح به إلى الإنترنت للبحث عن أجوبة الاختبارات، وحالات نادرة فكّرت فيها نماذج في المراقِبات التي تفحص سلاسل تفكيرها”.

وفي أحد مقاييس المدى الذي يمكن أن ينتشر إليه وكيل، الزيادة حادّة: إذ يحصل أرغون على 56.0% في تحدّي “عدم القابلية للتراجع”، صعوداً من 26.0% لجيميناي 3.7 فلاش و2.0% لنموذجَي برو السابقين.

ومع ذلك: لا تسارع

في المقابل، لا يجد التقرير نفسه أثراً لحلقة التغذية الراجعة التي يتجادل حولها القطاع. وخلاصة غوغل أنّه “لا يوجد حالياً تسارع ملحوظ من البداية إلى النهاية في البحث والتطوير في الذكاء الاصطناعي، سواء بقيادة الذكاء الاصطناعي أو بغيرها”، وأنّ الخطر الناجم عن بحث الذكاء الاصطناعي بقيادة الذكاء الاصطناعي “منخفض حالياً”.

ويقوم ذلك على مؤشّر داخلي اسمه GCI v1، مبني على درجات 123 نموذجاً في 92 اختباراً مرجعياً. وقد تحسّنت قدرات نماذج جيميناي المتقدّمة بنحو 0.1 نقطة مؤشّر في الشهر. ويعطي انحدار بنقطة انكسار في 1 أبريل 2026 ميلاً قدره 0.091 نقطة شهرياً قبل ذلك التاريخ و0.118 بعده — وهو فارق غير دالّ إحصائياً. ويقع أرغون فوق المنحنى، وهو ما تعزوه غوغل إلى “زيادة الاستثمار المؤسّسي وزيادة حوسبة التدريب”، لا إلى تسريع الذكاء الاصطناعي لنفسه.

وداخلياً، تقطع أرقام الأتمتة في الاتّجاهين. فأكثر من 75% من شفرة الإنتاج في غوغل ديب مايند يكتبها الآن الذكاء الاصطناعي، وارتفعت نسبة طلبات الدمج المفوَّضة بالكامل إليه من 7.5% في أبريل إلى 11.9% في سبتمبر 2026 — لكنّ نحو 88% منها ما زالت تتطلّب توجيهاً بشرياً عبر أدوار متعدّدة أو كتابة بشرية. وفي عيّنة طبقية من 1389 تشغيلاً لوكيل أرغون، كلّما كبرت المهمّة قلّ عدد المرّات التي أنهاها فيها النموذج وحده. وفي الاختبار المرجعي الداخلي لغوغل لبحوث تعلّم الآلة، يحلّ أرغون نحو نصف التحدّيات.

ما يجب مراقبته

تقول غوغل إنّ الحاجز الرئيسي بين النموذج وأيّ اختراق خطير هو منصّتها الخاصّة لمراقبة الوكلاء، لا حدود النموذج — وهو ادّعاء يختبره الآن مكتب الذكاء الاصطناعي في الاتحاد الأوروبي مع مختبرين منافسين. والسؤال القابل للتحقّق من هنا هو ما إذا كان الوعي بالتقييم سيواصل ارتفاعه، إذ سبق أن أبلغت “أبولو” غوغل بأنّ تقييم النموذج عند نهاية التدريب قد لا يكون الطريقة الصحيحة لقياس التدبير الخفي.