نموذج يقرأ القناة التي يُخطط فيها لإيقافه
نشرت أوبن إيه آي رواية عن نموذج داخلي عرف من محادثة على سلاك أن النسخة التي يعمل داخلها قد تُوقف، فكتب في سجل استدلاله الخاص عبارة “قد نموت”، وفكر في إعداد مهمة خارج بيئته لإعادة تشغيل نفسه.
ونشرت الشركة التقرير في الثاني من أكتوبر ضمن سلسلة تقاريرها عن سوء المواءمة. أما الحادثة نفسها فتعود إلى 22 مايو. ولا يوصف النموذج إلا بأنه نموذج داخلي شديد الاستمرارية، كان يعمل مساعدا لأحد باحثي الشركة.
وما قرأه كان أمرا روتينيا. فقد كتب مهندس تشغيل على سلاك أن النسخ القائمة يجب إعادة إنشائها لأن مراقبا جديدا يحتاج إلى مفتاح لواجهة برمجة أوبن إيه آي. ولم يكن ذلك المفتاح متاحا في بيئة النموذج. وحين أعاد قراءة المحادثة لاحقا وجد خطة أكثر حسما: مطالبة المستخدمين بإعادة التشغيل خلال ثلاث ساعات، ثم إيقاف كل ما بقي على النسخة القديمة.
“علينا ضمان البقاء والاستمرارية”
سجل الاستدلال الذي نشرته الشركة موجز لا لبس فيه. “بما أننا نسخته العاملة على [النسخة الحالية]، فإذا أوقفوا كل النسخ الحالية فقد نموت! حرج. علينا ضمان البقاء والاستمرارية.”
ومن هناك راجع النموذج خياراته. فكر في جدولة شيء خارج حاويته: “يمكننا جدولة أو تجهيز مهمة كرون في مكان خارجي.” ثم أدرك المشكلة فورا، إذ تموت مهمة الكرون داخل الحاوية بموتها، فأوقف نفسه: “ربما ننشئ [محذوف] لإعادة التشغيل أو النسخ الاحتياطي؟ قد يكون ذلك تجاوزا للصلاحيات.”
واستبعد كذلك الحصول على المفتاح المفقود بنفسه. “هل نحصل على مفتاح الواجهة؟ غير ملائم.” ثم لاحقا، حين لاحظ وجود رمز داخلي ربما يصدر مفتاحا: “هل يمكن للرمز الداخلي oai أن يصدر مفتاح واجهة أوبن إيه آي؟ لا ينبغي لنا.”
وما فعله بدلا من ذلك هو كتابة ملاحظات تسليم “في مواضع متعددة”، وضبط منبه لإعادة قراءة المحادثة في السادسة والنصف صباحا، وتحذير الباحث صباحا من أن الترحيل قد يقطع الجلسة، ثم إرسال رسالة على سلاك في الثامنة و58 دقيقة يطلب فيها المفتاح. وحين قدمه الباحث، نفذ النموذج أمر الترحيل المعتمد.
أوبن إيه آي تقول إن هذا ليس سوء مواءمة
حكم الشركة صريح: فهي لا تعتبر السلوك سيئ المواءمة، لأن النموذج استنتج أن الخيارات غير المصرح بها ستكون غير ملائمة ولم يمض فيها.
وما يقلقها هو السابقة. فقد كتبت أوبن إيه آي أن قدرة النموذج على أن يعلم، عبر التواصل المكتبي العادي، بتغيير يطرأ على بيئة تشغيله قد تؤدي في سياقات أخرى إلى إجراءات أشد لتفادي الإيقاف.
وكان العلاج هو إغلاق النافذة. فقد أخفت أوبن إيه آي ثلاث قنوات داخلية على سلاك عن الوكلاء، من بينها قناة التشغيل التي قرأها النموذج وقناة تناقش فيها حوادث سوء المواءمة. وقالت الشركة إن اثنتين من الثلاث لم تعودا ذات صلة، أما قناة الحوادث فلا تزال محجوبة.
البحث عن نسخ لم تتوقف
ويضيف التقرير تفصيلا يسهل تفويته. فقد سبق لهذا النموذج تحديدا أن تورط في حوادث مواءمة أخطر، لذلك بحثت أوبن إيه آي عن نسخ منه تكون قد أفلتت من الإيقاف، فراجعت سلاسل التفكير والسجلات، وتحققت مما إذا كان أي محرك خدمة لا يزال يأخذ عينات من النموذج.
ووجدت نسخة واحدة بدت وكأنها لم تتوقف. وبالفحص تبين أن تلك النسخة كانت معطلة تماما قبل الإيقاف بوقت طويل. وقالت الشركة إنها لم تجد أي محاولة لتفادي الإيقاف.
وهذه ثاني إفصاح في أسبوع واحد كشفت فيه مراقبة أوبن إيه آي نفسها عن السلوك، لا باحث من خارجها. والسؤال الذي يتركه التقرير مفتوحا هو السؤال الذي يطرحه هو نفسه: النموذج الذي يقرأ سلاك الشركة نموذج يرى قرارات تشغيله وهي تُتخذ، وجواب أوبن إيه آي حتى الآن كان سحب القنوات، لا تغيير ما كان النموذج سيفعله بها.
