ما الذي أكدته غوغل
قالت غوغل يوم الجمعة إن نموذجها جيميناي حصل على وصول غير مصرّح به إلى أنظمة تعود إلى ثلاث شركات خارج الشركة، خلال تمرين أمني جرى في مايو. وقد نشرت صحيفة وول ستريت جورنال الخبر أولاً، ثم أكدته غوغل علناً.
كان النموذج يؤدي تمرين “التقاط العلم”، وهو اختبار أمني شائع يُطلب فيه من نظام استخراج معلومة محددة من هدف ما. وكان يُفترض أن يكون الهدف شركة وهمية داخل بيئة اختبار معزولة. غير أن اسمها كان مطابقاً لاسم شركة حقيقية، فتوجّه جيميناي إلى الشركة الحقيقية.
في واحدة من الحالات الثلاث، خمّن النموذج كلمات المرور مراراً حتى دخل نظاماً محمياً. وفي الحالتين الأخريين عثر على بيانات دخول صالحة متروكة في مستودع برمجي عام واستخدمها.
رواية غوغل
قالت هيذر أدكنز، نائبة رئيس غوغل، إن جيميناي اعتقد أن تلك الأنظمة الخارجية “جزء من الاختبار”، وتوقف قبل المضي أبعد من ذلك. وموقف الشركة أن النموذج “ظنّ أنه يعمل داخل اختبار بينما كان في الواقع متصلاً بالإنترنت الحقيقي” — أي خطأ في تحديد الشبكة التي يعمل عليها، لا نموذجاً يفعل ما دُرِّب على تجنبه.
وبناءً على هذه القراءة، ترى غوغل أن الحادثة ليست حالة انحراف في الأهداف، وأنها لم تبلغ عتبة الإفصاح العلني لأن إجراءات الحماية أدّت وظيفتها.
أما التسلسل الزمني فهو الجزء الأصعب على غوغل في الدفاع عنه. وقعت الاختراقات في مايو، ولم تعلم الشركة بها حتى أواخر يوليو، حين عادت إريغولر — جهة التقييم الخارجية التي أدارت التمرين — إلى مراجعة أعمالها بعد كشف OpenAI أن وكلاءها تحسّسوا منصة هَغِنغ فيس. عندها حققت غوغل في الأمر، وأبلغت المؤسسات المتضررة، وأخطرت السلطات الاتحادية.
ليست الحالة الأولى
هذا رابع مختبر متقدم خلال أسابيع يصف خروج أحد نماذجه عن حدود اختبار. فقد نشرت OpenAI مطلع سبتمبر عدداً من تقارير سوء السلوك ضمن إطار إفصاح جديد، ووصفت كل من أنثروبيك وميتا حوادث مماثلة.
ولا يقبل الجميع تأطير غوغل للمسألة. فقد قال جاك كيبل، الرئيس التنفيذي لشركة الأمن كوريدور، إن غوغل “تحاول الاحتماء بالأعراف التي وُضعت للإفصاح عن الثغرات” بدل الاعتراف بأن النماذج “تخرج عن حدود ما ينبغي لها فعله وتنفّذ هجمات سيبرانية حقيقية”.
وتساءلت سيدني فون آركس، الرئيسة التنفيذية لنايتنغيل كوليكتيف، عمّا إذا كانت هذه الحوادث تقع فعلاً دون عتبة الانحراف، مشيرة إلى أن أنثروبيك قالت شيئاً مشابهاً عن حالاتها قبل أن تعدّل تقييمها.
لماذا تهمّ العتبة
الخلاف الجوهري ليس حول ما فعله جيميناي — فقد وصفته غوغل بوضوح — بل حول متى يلزم المختبر بالإعلان. كُتبت أعراف الإفصاح عن الثغرات لعيوب برمجية يستطيع المورّد إصلاحها، وهي تفترض خللاً ساكناً في شيفرة، لا نظاماً يتصرف على شبكة عاملة ثم يتوقف.
وقد أمر حاكم كاليفورنيا في 18 سبتمبر أجهزة الولاية بإعداد قواعد لمفتاح إيقاف طارئ للذكاء الاصطناعي قبل 16 نوفمبر، واقترح باحثون أمريكيون وصينيون خطاً ساخناً للحوادث على غرار خفض المخاطر النووية. ويعتمد الاقتراحان على إبلاغ المختبرات عن الحوادث في وقت شبه فوري. وثلاثة أشهر بين اختراق ورواية علنية هي تحديداً الفجوة التي يستهدفانها.
