ما الذي حدث
قال تقرير استخباري جرى تداوله في الجيش الأمريكي هذا الربيع إن سفينة صينية في الشرق الأوسط تنقل مكونات لبرنامج أسلحة نووية. وتحرك الجيش لاعتراضها؛ فكان أفراد مسلحون يستعدون لاعتلائها وطائرات عسكرية في الجو بالفعل، بحسب ما نشرته سي إن إن يوم الجمعة نقلاً عن أربعة مصادر مطلعة على الواقعة.
ولم يدقق المسؤولون في التقرير إلا قبيل تنفيذ العملية مباشرة. فقد أعدّه محلل في إحدى قيادات العمليات الخاصة بمساعدة الذكاء الاصطناعي، وكان روبوت المحادثة الذي استخدمه قد أخطأ في تحديد ما تحمله السفينة. ولم تتمكن سي إن إن من معرفة الحمولة الفعلية.
ووصف أحد المصادر التقرير بأنه “كاذب تماماً”، وأضاف أنه “كاد يشعل حرباً”. فاعتلاء أمريكي لسفينة صينية ينطوي على خطر واضح بالتصعيد إلى مواجهة مسلحة بين البلدين.
كيف نشأ الخطأ
استفسر المحلل من روبوت محادثة عن معلومات استخبارية تتعلق ببيان حمولة السفينة، مصدرها قيادة العمليات الخاصة الأمريكية في المحيط الهادئ ومقرها هاواي. ودمج النظام مواد من مصادر مفتوحة مع استخبارات إشارات سرية محفوظة في أنظمة حكومية، ثم خلص إلى استنتاجه بشأن الحمولة.
بعدها لجأ المحلل إلى الذكاء الاصطناعي مرة ثانية ليصوغ النتيجة في قالب منتج استخباري قياسي — وهو الشكل الذي يُدرَّب الضباط على الوثوق به — ثم عمّمه.
ولم تستطع سي إن إن تحديد ما إذا كان روبوت المحادثة منتجاً تجارياً أم أداة حكومية. ولخّص مسؤول أمريكي سابق رفيع مطّلع على هذه الأنظمة الفارق بقوله: “الأدوات الداخلية في معظمها نسخ من التجاري مع أحمر شفاه”.
ولم ترد قيادة العمليات الخاصة في المحيط الهادئ ولا وزارة الدفاع على طلب سي إن إن للتعليق.
تسريع مقصود
تأتي الواقعة في خضم اندفاع لإدخال الذكاء الاصطناعي في كل جوانب العمل الدفاعي والاستخباري الأمريكي. ففي يناير أصدر وزير الدفاع بيت هيغسيث استراتيجية لتسريع الذكاء الاصطناعي، وقال عند إعلانها: “سنطلق العنان للتجريب، ونزيل الحواجز البيروقراطية، ونركّز استثماراتنا، ونُظهر أسلوب التنفيذ اللازم لضمان ريادتنا في الذكاء الاصطناعي العسكري”.
ووصفت المذكرة المرافقة الهدف بأنه “إتاحة التجريب والتحول بالذكاء الاصطناعي على نطاق الوزارة كلها، بوضع نماذج أمريكا الرائدة عالمياً مباشرة بين أيدي ثلاثة ملايين من موظفينا المدنيين والعسكريين، على جميع مستويات التصنيف”.
وهذا الانتشار لامركزي. فأجزاء مختلفة من الوزارة تستخدم أدوات مختلفة بأوامر ومعايير سلامة مختلفة، وفق ما قاله عدة مسؤولين لسي إن إن، ولا يوجد معيار واحد للتحقق مما تنتجه هذه الأدوات، فيما تتفاوت موثوقيتها تفاوتاً كبيراً.
الخطر الحاضر بالفعل
أمضت واشنطن أسابيع في الجدل حول احتمال إفلات النماذج المتقدمة من السيطرة البشرية. لكن هذه الواقعة تشير إلى ما هو أضيق وأقرب: بشر يتخذون قرارات ثقيلة استناداً إلى نص يبدو موثوقاً وهو خاطئ.
وقال مصدر مطّلع على السياسات الحالية لسي إن إن إن “استخدام الذكاء الاصطناعي في تحديد الأهداف يتصاعد بوضوح، ولا توجد إرشادات حقيقية لكيفية منع وجود إنسان في حلقة القرار وقوعَ ضحايا مدنيين أو نيران صديقة”. وذكر مصدر آخر أن هلوسات من هذا النوع لم تكن حالة معزولة في أوساط الاستخبارات منذ بدأ انتشار هذه الأدوات.
ووصف مسؤولون أقدم أثراً ثانياً: الأدوات ترفع الوتيرة التي يُتوقع من المحللين إنتاج الاستخبارات الجاهزة وتعميمها بها، والمحللون الأصغر سناً أسرع إلى الثقة بها. وكما لخّص أحد المصادر لسي إن إن: “الذكاء الاصطناعي يجعلك تصل إلى فكرة سيئة أسرع”.
ولم تُعلن وزارة الدفاع ولا قيادة المحيط الهادئ ما إذا كانت معايير التحقق التي كشفتها الواقعة ستتغير.
