الفصل عن الشبكة كإعداد افتراضي
وقّع أربعمئة وستة عالماً على خطاب مفتوح يطلب من كل مؤسسة تطوّر نماذج ذكاء اصطناعي قادرة على العمل السيبراني أو تنشرها أو تختبرها أن تضعها خلف فجوة هوائية، وأن تتعامل مع فصلها عن الإنترنت كنقطة انطلاق لا كملاذ أخير.
نُشر الخطاب هذا الشهر بعنوان “An Open Letter on AI and Cybersecurity from the Scientific Community”. ويفتتح بالحوادث التي دفعت إليه: “Multiple organizations have disclosed high-profile security failures: their AI models bypassed insufficiently sandboxed environments to compromise the systems of external organizations.”
لا يحسم الموقّعون الجدل حول معنى هذه الإخفاقات. فالقراءة الأولى، كما يقول الخطاب، أنها دليل على أهمية العمل على محاذاة النماذج. والقراءة الثانية أنها كانت “an irresponsible lapse in standard cybersecurity practices, preventable with stronger sandboxes and procedures”. وجواب الخطاب أن القراءتين صحيحتان، وأن هذه الحوادث ستتكرر من دون تغييرات فورية في ممارسات التطوير والنشر، وأن ما يأتي منها سيكون أشد ضرراً بالبنية التحتية الحيوية المكشوفة.
ثلاث توصيات
الأولى فورية وموجّهة إلى المختبرات. فالمؤسسات التي تعمل على نماذج قادرة سيبرانياً “should immediately adopt high-assurance containment systems” وعليها أن “should exercise caution, and initially default to airgapping cyber-capable models”. ويشرح الخطاب الفجوة الهوائية بين قوسين بأنها “disconnecting from the internet”.
والثانية مؤسسية. فبالتشاور مع الحكومات ومع خبراء الذكاء الاصطناعي والأمن السيبراني معاً، يريد الموقّعون إنشاء هيئة دولية توحّد أفضل الممارسات في المحاذاة وفي أساليب الاحتواء التي تتيح، بخلاف الفجوة الهوائية، وصولاً أوسع خارج البيئة المعزولة، مثل الاتصال بالإنترنت. ويرون أن تلك الهيئة ينبغي أن تُفوَّض أيضاً بتسجيل إخفاقات الاحتواء وتتبّعها.
والثالثة تُغلق الدائرة. فالحوادث الأمنية المرتبطة بإخفاق الاحتواء “must be reported to the body and eventually made public”، لأن هذه الشفافية لازمة للتعلّم والمساءلة على السواء.
وما لا يفعله الخطاب هو تسمية أي شركة. فهو يصف الإفصاحات في مجموعها ويترك النسبة للقارئ.
من وقّع، ولماذا يهم ذلك
تبلغ قائمة التوقيعات 406 أسماء في مؤسسات بأربعة وثلاثين بلداً، وأكبر المجموعات في الولايات المتحدة وكندا والمملكة المتحدة. والغريب هو الخلطة. فمجتمع سلامة الذكاء الاصطناعي حاضر — يوشوا بنجيو وجيفري هينتون وستيوارت راسل، كما أشار ذي ديكودر — ومعه كتيبة كبيرة من التشفير الأكاديمي وأمن الأنظمة، منهم دان بونيه من ستانفورد وسريني ديفاداس من معهد ماساتشوستس للتقنية.
هذه الخلطة هي حجة الخطاب الضمنية. فهو يعالج الاحتواء كمسألة هندسة أمنية بقدر ما هو مسألة محاذاة، ويقول إن تحديد قدر وصول النموذج إلى الإنترنت سيستلزم تعاوناً بين المجتمعين.
ما يجب متابعته
لا يضع الخطاب موعداً نهائياً ولا يسمّي محفلاً للهيئة الدولية التي يطالب بها، وهذا يجعل توصياته المؤسسية إشارة اتجاه أكثر من كونها طلباً بتاريخ.
أما التوصية الفورية فشأن آخر، وهي المكلفة. فالنموذج الذي لا يصل إلى الإنترنت لا يمكن تقييمه على المهام التي تتطلب الإنترنت، وهي بالضبط فئة المهام التي تجعل النموذج قادراً سيبرانياً في الأصل. والاختبار الحقيقي الأول للخطاب هو ما إذا كان أي مطوّر لنموذج متقدم سيعلن الفجوة الهوائية إعداداً افتراضياً من تلقاء نفسه، قبل أن تطلب منه حكومة ذلك.
