الحجة تبدأ باعتراف
في منشور نُشر بعد ظهر السبت، بعنوان “Models as Insider Risks in the Super Intelligence Era” (“النماذج بوصفها مخاطر داخلية في عصر الذكاء الفائق”)، رأى الرئيس التنفيذي لمايكروسوفت ساتيا ناديلا أن على المؤسسات التي تنشر النماذج المتقدمة أن تستعير الضوابط التي تطبّقها أصلاً على أصحاب النفوذ داخل المبنى، وأن تكفّ عن معاملة ضمانات المورّد بديلاً عن ضوابطها هي.
تبدأ الحجة بأمر لا يقدر عليه أحد اليوم. فمع البرمجيات التقليدية، كتب ناديلا، “كانت لدينا الأدوات والقدرة على تتبّع السلوكيات إلى مسار شيفرة بعينه”. أما مع النماذج المتقدمة، فـ”لا نستطيع أن ننسب سلوكيات النموذج ومخرجاته إلى مدخلات بعينها في بيانات التدريب ولا إلى تهيئات أوزان بعينها” — ومع ذلك، كما كتب، تُنشر هذه النماذج “مع صلاحية الوصول إلى أشد بياناتنا حساسية، ومنحها القدرة على اتخاذ إجراءات حاسمة نيابة عنا”.
وخلاصته نقل للمسؤولية لا للثقة. “لا يمكننا ببساطة أن نُسنِد إلى الخارج المسؤولية عما يفعله الذكاء نيابة عنا”، كتب. “وضمانات مزوّد النموذج لا تعفينا من تلك المسؤولية.” أما الصيغة التي يستخدمها لهدف التصميم فهي أن “علينا فصل إمداد الذكاء عن السلطة عليه”.
لماذا يجب أن تقع الضوابط خارج النموذج
اعتراض ناديلا على الحل البديهي — أن يراقب نموذج نموذجاً آخر — هو أنه لا يقلّل الغموض بل يكدّسه. “يمكنكم، بل ينبغي لكم، استخدام النماذج لاختبار بعضها بعضاً والتحقق منه تخاصمياً”، كتب. “لكنكم قد تنتهون عندئذ إلى نموذج معتم داخل طبقة تنسيق معتمة، يراقبه نموذج معتم آخر. أي صناديق سوداء متداخلة في جوهرها.”
والبديل الذي يلجأ إليه أقدم من هذا المجال كله. فالضوابط التي تحكم ما يصل إليه النموذج وما يستطيع فعله “يجب أن تقع خارج النموذج”، استناداً إلى “مبدأ في أمن المعلومات يعود إلى سبعينيات القرن الماضي: ألا يكون بوسع البرنامج تجاوز الآليات التي تُنفِّذ صلاحياته أو العبث بها”. وعملياً يعني ذلك فصل النموذج عن الحزام الذي ينسّق عمله، وعن فضاء الأفعال الذي يحدّد ما يستطيع فعله.
كما وضع حداً أدنى لشفافية الاستدلال، وسمّى ما يرفض أن يُتخذ ذريعة. فشفافية سلسلة التفكير “غير قابلة للتفاوض”، كتب، و”لا يصح أن تكون ‘النيوراليزية’ مبرراً لأن يكون استدلال النموذج معتماً” — مع إقراره بأن الشفافية وحدها غير موثوقة، لأننا “لا نعرف بعد كيف نجعل مخرجات النماذج نفسها أمينة أو شفافة على نحو متسق”.
سبعة مبادئ، منها المكبح
يعدّد المنشور سبعة مبادئ تصميمية. تنوّع النماذج: ألا يكون أي نموذج وحده الاعتماد الوحيد لنتيجة مهمة، ولا أن يتحقق من عمله هو. مراقبة كل شيء: “على كل فعل ذي معنى يقوم به النموذج أن يترك دليلاً مقروءاً بشرياً وعصيّاً على العبث.” قابلية التحقق: اختبار المنظومة كاملة، بما فيها الإخفاقات والهجمات والحالات الحدّية، لا المهام الناجحة فقط. ضوابط مستقلة: أن تستطيع المؤسسة أن تقرر بنفسها ما يصل إليه النموذج وما يفعله. قابلية تدقيق مستقلة: “ألا يتحكم أي نموذج واحد في سلوك المنظومة وفي الأدلة اللازمة لتحديد ما إذا كان ذلك السلوك متسقاً مع القصد الأصلي، معاً.”
ثم الاحتواء، وهو السطر الذي سافر أبعد من غيره. “علينا أن نفترض أن النموذج مخترَق وأن نحتويه من البداية”، كتب ناديلا. “اعتبروه مكبح طوارئ. ينبغي أن يكون بوسع شخص مخوَّل دائماً أن يوقف النموذج مؤقتاً أو يطفئه في منتصف المهمة.” وأضاف أن النماذج الأقدر ستتطلب تقنيات احتواء على الصناعة أن توحّد معاييرها.
والسابع هو الإفصاح عن الحوادث: حين تخفق هذه المنظومات أو تُخترق، يلزم “إفصاح في حينه للمتضررين”، وآلية لتبادل ما الذي اختل، وأي الضوابط سقط، وكيف يُمنع تكراره — بما في ذلك، كما حدّد، تفاصيل التنفيذ التي تغيّر سلوك الوكلاء أثناء التشغيل.
ما ينبغي متابعته
لم يُلزم ناديلا مايكروسوفت بشيء محدد في المنشور، والمبادئ مصوغة بوصفها حجة لا خارطة طريق لمنتج ولا معياراً. وما يجعلها جديرة بالقراءة رغم ذلك هو من يطرحها والاتجاه الذي تشير إليه: الابتعاد عن سؤال ما إذا كان نموذج بعينه جديراً بالثقة، نحو بناء منظومات لا تحتاج إلى أن يكون كذلك. وجملته الأخيرة تقولها صراحة: “أكثر منظومات الذكاء الفائق جدارة بالثقة لن تكون تلك التي نملك فيها النموذج الذي نثق به أكثر. بل تلك التي تتيح لنا أن نثق بالنموذج أقل ما يمكن.”
واثنان من السبعة — قابلية المراقبة والإفصاح عن الحوادث — هما أيضاً موضع معارك سياسية جارية. وما ينبغي متابعته تالياً هو ما إذا كانت مايكروسوفت ستدافع عنهما في تلك المحافل، لا على حساب رئيسها التنفيذي وحده.
