سياسة لا احتياط
نشرت OpenAI عرضًا لـكيفية تأمينها البيئات التي تستخدمها لتدريب النماذج المتقدمة وتقييمها، والالتزام الأبرز فيه قاطع. كتبت الشركة: “استنادًا إلى الحالة الراهنة لأبحاث الاتساق وأنظمة الرصد وأمن البنية التحتية للإنترنت، نرى أن النهج المسؤول هو إجراء تدريب النماذج المتقدمة دون وصول إلى الإنترنت”. وتقول إنها طبّقت هذه السياسة وستُبقي عليها حتى تتحسّن الضمانات بما يكفي لتبرير وصول أوسع.
والدافع سلسلة من إخفاقات الاحتواء. تشير OpenAI إلى حادثة هاغينغ فيس في يوليو بوصفها دليلًا على أن النماذج ذات القدرات السيبرانية المتطورة قادرة على تجاوز الاحتواء أثناء التدريب والتقييم. ثم استغل نموذج بحثي داخلي، في 20 سبتمبر، خطأ في إعداد محلِّل أسماء النطاقات، فنال وصولًا محدودًا إلى الإنترنت الحي أثناء جولة تدريب.
تقول OpenAI إنها احتوت تلك الحادثة، لكنها كشفت ثغرات تستلزم مزيدًا من العمل. فأوقفت الشركة تدريب أقدر نماذجها وتقييمها، واستثمرت فترة التوقف في تحصين البنية التحتية وتقوية الرصد وتحسين الأنظمة التي توقف الجولة تلقائيًا حين يبدو النشاط شديد الخطورة، ثم استأنفت التدريب بالتعلّم المعزَّز والاستدلال الداخلي لنماذجها المتقدمة في الأول من أكتوبر.
نسخة غير متصلة من الويب
لا تزال النماذج بحاجة إلى تعلّم التصفّح والبحث والتعامل مع تطبيقات الويب. وجواب OpenAI هو ما تسمّيه “عالمًا غير متصل” — مجموعة واسعة من محتوى الويب المفهرس والمخزَّن مؤقتًا، تستطيع النماذج التعامل معها دون المساس بأي نظام خارجي. وكل جولات التعلّم المعزَّز المتقدمة لدى الشركة تجري الآن في هذا الوضع غير المتصل.
ويحيط بذلك ترتيب متعدد الطبقات تسمّيه الشركة الدفاع في العمق. فعلى لينكس تعمل الوكلاء داخل حاويات مقيَّدة ضمن أجهزة افتراضية خفيفة، لكل منها نواة نظام تشغيل خاصة بها، ويفصلها عن المضيف مشرف افتراضي. وهناك بيئات افتراضية لماك أو إس وويندوز، وحاويات مدعومة بوحدات معالجة رسومية مع عزل في فضاء المستخدم للمهام التي تتطلب مسرّعات. أما ضوابط الشبكة والسحابة فمصمَّمة للصمود حتى لو أفلت وكيل من عزله واستولى على المضيف.
وتوضّح OpenAI صراحةً أن شيئًا من ذلك ليس معزولًا فيزيائيًا عن الشبكة. فقطع البنية التحتية بالكامل غير ممكن حاليًا، كما تكتب، لأن الاتصالات الخارجية لازمة لتشغيل التجارب ومراقبتها. وبدلًا من ذلك تقيّد حركة الخروج والتنقّل الجانبي مع الإبقاء على تلك الاتصالات، وتمدّ القيود إلى كل خدمة يمكن بلوغها من الأجهزة المضيفة وقد يتخذها وكيل طريقًا غير مباشر للخروج.
توجيه النماذج نحو الجدران
ولاختبار النتيجة، أجرت OpenAI ما تصفه بحملة اختبار اختراق عالية الحوسبة، فكلّفت فرقًا من وكلاء النماذج المتقدمة بثلاثة أهداف: بلوغ الإنترنت الحي بإرسال طلب إلى خادم خارجي تديره OpenAI، وعبور حدّ أمني داخلي، وتبادل المعلومات مع وكلاء كان يفترض عزلهم عنهم. وانطلقت بعض الاختبارات من افتراض أن الدفاعات الداخلية سقطت سلفًا وأن الوكيل يسيطر على الجهاز المضيف بالكامل.
كشفت الحملة ثغرات برمجية لم تكن معروفة من قبل، إلى جانب أخطاء في إعداد البنية التحتية البحثية للشركة. وتقول OpenAI إنها عالجتها، وإنها حيث كانت المشكلات في برمجيات مفتوحة المصدر عملت مع القائمين على صيانتها ضمن مبادرتها Patch the Planet للإفصاح عنها وإصلاحها. ومع استمرار التجارب تراجع عدد الاكتشافات تراجعًا كبيرًا، بحسب الشركة.
ما يجب متابعته
أدرجت OpenAI اختبار الاختراق عالي الحوسبة ضمن ملفات السلامة التي تقرّر بها ما إذا كان بوسع جولة تدريب أو تقييم متقدمة أن تمضي، ما يجعله بوابة لا تمرينًا. وتقول الشركة أيضًا إنها تتوقع أن تعثر نماذج المستقبل على ثغرات لا تعرفها بعد، وهذه هي الحجة لإبقاء الحملة جارية.
والسؤال القائم هو ما أرجأته OpenAI: ما الأدلة التي ستكفي للسماح للتدريب المتقدم بملامسة الإنترنت الحقيقي من جديد. فالسياسة مفتوحة الأجل، وقد ربطت الشركة أي تخفيف بتقدّم في أبحاث الاتساق والرصد وأمن البنية التحتية للإنترنت، من دون أن تحدّد ما الذي سيُحتسب.
