زر إيقاف في طبقة الاستدلال
وصفت أوبن إيه آي نظاماً يسمى غرفة التحكم، يتابع كل أحمال عمل النماذج التي تعمل على بنيتها البحثية ويستطيع منع أي منها من إنتاج مزيد من الإخراج. وفي منشور نُشر في التاسع من نوفمبر قالت الشركة إن أقصى زمن بين اللحظة التي تتلقى فيها غرفة التحكم أمراً بإيقاف مهمة واللحظة التي يصبح فيها أي تقدم غير ممكن هو خمس وثلاثون ثانية.
الأمر غير المعتاد هو موضع الإيقاف. فكود البحث — التجارب والتقييمات ومهام الاستعيان الكبيرة التي يكتبها الباحثون ويغيّرونها باستمرار — ليس مطالباً بالتحقق مما إذا كان لا يزال مسموحاً له بالعمل. بدل ذلك، على كل حمل عمل بحثي يجري استدلالاً وكيلياً أن يسجّل نفسه في غرفة التحكم ويحصل على معرّف مهمة، يرفقه بكل طلب يرسله إلى محرك استدلال. والمحرك، لا حمل العمل، هو من يسأل غرفة التحكم إن كانت المهمة لا تزال مرخّصة. وإن كان الجواب لا، رفض المحرك التوليد.
السبب الذي تعطيه الشركة مباشر. فكود أحمال العمل، كما تكتب، “يتغير كثيراً وليس المكان الأمثل لتطبيق حمايات أمان حرجة حاملة للثقل”. ولا يوجد في بحثها كله سوى عدد قليل جداً من مسارات كود الاستدلال، فتستطيع تلك الطبقة أن تعمل كعنق زجاجة يُفحص فيه كل طلب.
من أين تأتي الثواني الخمس والثلاثون
التأخير ليس تداولاً. تنسبه أوبن إيه آي إلى طبقة تخزين مؤقت لترخيص الاستدلال، لازمة لحمل حجم حركة البيانات المطلوب، وتقول إنها “تعمل على دفع هذا الرقم إلى الصفر حتى نتمكن من إنهاء المهام فوراً”. وحتى ذلك الحين يمكن لنموذج صدر إليه أمر التوقف أن يستمر في الإنتاج نحو نصف دقيقة.
ويجب كذلك ربط كل مهمة مسجّلة بحالة أمان معتمدة، وهو شرط طرحته الشركة في منشور في سبتمبر عن حالات الأمان لتدريب الذكاء الاصطناعي المتقدم. وإيقاف مهمة لا يقتل العملية المحيطة بها: يبقى حمل العمل حياً، ويبقى المحرك متاحاً لمهام مرخّصة أخرى، ويتوقف الإخراج وحده.
يفشل مغلقاً، والنشر لم يكتمل
غرفة التحكم مصممة للفشل المغلق. فإذا سقطت الخدمة — بخطأ في النظام، أو لأنها أُوقفت، أو بما تسميه الشركة “تلاعب فاعل سيئ النية” — رُفضت كل طلبات الاستدلال حتى تعود إلى العمل الطبيعي. وتقول الشركة إن هذا السلوك منشور الآن على كل أحمال العمل البحثية الخاصة بالنماذج المتقدمة، وإن نشره على بقية أحمال العمل البحثية سيكتمل “في الأيام القليلة القادمة”. وتضيف أنها تجري مسوحاً وكيلية وبرمجية متصلة للتأكد من أن أحداً لم يشغّل محرك استدلال وغرفة التحكم معطّلة.
لماذا كانت الثغرة في جانب البحث
تقول أوبن إيه آي إن كدسة خدمة النماذج الخارجية لديها أكثر مركزية بطبيعتها، ولها قدرة تشغيلية متطورة على إنزال عمليات النشر بسرعة. أما الثغرة فكانت في البحث، وهناك، بحسب الشركة، تكون الحاجة أكبر ما تكون.
والمُطلِق الذي تصفه هو مراقب: نموذج ثان يفحص ما يفعله النموذج قيد التدريب ويرفع تنبيهاً. وأشارت الشركة إلى تقرير منشور استخدم فيه وكيل نظام أسماء النطاقات للوصول إلى روبوت محادثة خارجي كحالة ضبطها مراقب، وشرحت عمل المراقبة بتفصيل أوسع في أواخر أكتوبر. وإذا قرر نظام المراقبة أن مهمة يجب أن تتوقف، أرسل معرّفها إلى غرفة التحكم فيُرفض طلب الاستدلال التالي.
الرقم الذي يستحق المتابعة هو هذه الثواني الخمس والثلاثون. سمّتها الشركة، وفسّرتها بأثر التخزين المؤقت، وتعهدت بإزالتها. وهي حتى الآن أوضح رقم معلن عن السرعة التي يستطيع بها مختبر متقدم إيقاف نماذجه في منتصف التشغيل.
