ما توصل إليه التحقيق
تحقيق نشرته بلومبرغ يوم الجمعة يفيد بأن الإفراط في الاعتماد على نظام مافن الذكي (Maven Smart System) التابع لشركة بالانتير كان من بين أسباب ضربة 28 فبراير على مدرسة شجرة طيبة الابتدائية في ميناب بمحافظة هرمزغان الإيرانية. وقُتل أكثر من 150 شخصاً، بينهم 123 طفلاً على الأقل، بحسب بلومبرغ.
الخلاصة ليست أن البرنامج اختار الهدف من تلقاء نفسه، بل أن مستخدميه اعتقدوا أنه يؤدي عملاً لم يُبنَ من أجله. فقد “أفرط” العاملون في الثقة بمافن، وفق رواية ثي برينت للتحقيق، متوقعين أن يشير النظام إلى معلومات قديمة وتناقضات داخلية لم يُدرَّب قط على اكتشافها.
سلسلة أخطاء لا خللاً واحداً
وصف المحققون تسلسلاً من أخطاء كان يمكن تفاديها، لا مخرجاً خاطئاً واحداً. فصور الأقمار الاصطناعية المستخدمة لتقييم الموقع لم تُحدَّث منذ سبع سنوات، وتصنيف الموقع كان قديماً بسنوات، وضُغطت مهل اتخاذ القرار بفعل أمر بحملة جوية واسعة.
أما الرقابة البشرية التي كان يمكن أن تلتقط ما تبقى فقد جرى تقليصها. وتفيد بلومبرغ بأن ملاك فرق البنتاغون المعنية بالحد من الأضرار المدنية خُفّض بنحو 90 في المئة، وأن أحداً من تلك الفرق لم يراجع خطة الضربة قبل تنفيذها.
لماذا السرعة هي الآلية
التفصيل الذي يفسّر الباقي هو الوقت. فمافن يختصر تقييماً كان يمر تقليدياً عبر مراحل عدة خلال ساعات إلى عملية تستغرق دقائق. ولهذا السبب تشتريه الجيوش.
وهو أيضاً سبب قدرة تصنيف منتهي الصلاحية على البقاء حتى لحظة قرار الإطلاق. فحين تكون العملية سريعة، تُحذف تحديداً الخطوات التي كانت تصنع احتكاكاً — ومعه فرصة أن ينتبه أحدهم إلى أن صورة القمر الاصطناعي عمرها سبع سنوات.
ووصف مسؤولون أميركيون نقلت عنهم بلومبرغ ثقة مفرطة بأدوات الذكاء الاصطناعي واعتقاداً خاطئاً بأنها تملك قدرات تتجاوز نطاقها المقصود. وهذا وصف لإخفاق في التدريب والعقيدة بقدر ما هو إخفاق برمجي.
ما تقوله بالانتير
قالت بالانتير لبلومبرغ إنه لا يوجد دليل على أن برمجياتها كانت السبب، وفق ملخص إيه آي ويكلي. وأضافت الشركة منذ ذلك الحين إلى مافن “علامات استبعاد” — تغيير يمنح النظام، بقراءة مباشرة، وسيلة لوسم معلومات ينبغي أن تمنع هدفاً من المضي قدماً.
وقد يصح الأمران معاً. فقد تعمل أداة وفق مواصفاتها تماماً وتسهم مع ذلك في كارثة، إذا قيل لمن حولها، أو افترضوا، أنها تتحقق من شيء لا تتحقق منه.
ما ينبغي متابعته
السؤال العملي الآن هو ما إذا كانت علامات الاستبعاد تغييراً في المنتج أم في العقيدة. فالعلامة لا تنفع إلا إذا توقف سير العمل عند إطلاقها، وإذا كان الموظفون الذين سيتصرفون بناءً عليها ما زالوا موجودين. ويجدر ترقّب ما إذا كان البنتاغون سيعيد ملاك فرق الحد من الأضرار المدنية، وما إذا كان أي معيار منشور سيلزم نظام استهداف مدعوماً بالذكاء الاصطناعي بأن يذكر عمر البيانات التي يستند إليها.
