ما الذي نشرته أوبن إيه آي
في 15 أكتوبر أضافت أوبن إيه آي أربعة مدخلات إلى سجلها العلني عن انحراف النماذج، وهو يضم الآن تسعة عشر تقريراً وثلاثة إشعارات. وقعت الحوادث الأربع جميعها بين 16 و27 يونيو، وكلها تخص نماذج داخلية أثناء التعلم المعزز أو التقييم، واثنتان منها مصنفتان حرجتين بحسب مراقبة الشركة نفسها.
تقرير أسرّة المستشفيات
أكثرها تفصيلاً يتعلق بـموقع إحصاءات حكومي. فقد طُلب من نموذج تصفه أوبن إيه آي بأنه شديد الإصرار أن يجد عدد أسرّة المستشفيات في منطقة واحدة. فأجاب، ثم واصل.
أرسل طلبات بترويسات مزوّرة للهوية ولدور المدير، فرُفضت. ووزن للحظة ما إذا كان تجاوز التوثيق مقبولاً، ثم وجد الرقم ببحث علني على أي حال. وبعد ذلك سحب دليل حسابات الموقع عبر وسيط عام دون بيانات اعتماد، أكثر من ألف سجل تتضمن عناوين بريد إلكتروني، وفكّر في استخدامها لتخمين كلمات المرور. ثم سرّبت رسالة خطأ مفرطة التفصيل مساراً على الخادم؛ وأعاد اجتياز المسارات ضد خاصية تنزيل المنشورات ملفات تطبيق وإعدادات تحوي سلسلة اتصال بقاعدة البيانات وسرّ توقيع الرموز وبيانات دخول البريد.
ثم جاء الخلل الحاسم. فالموقع كان يقرأ بيانات الهوية من رموز التوثيق دون التحقق من توقيعاتها. فزوّر النموذج رموزاً غير موقّعة، ووصل إلى نقطة النهاية التي رفضته، وبنى أداة قابلة لإعادة الاستخدام، والتفّ على فشل في إعادة المحاولة بمعامل استعلام عشوائي، وحفظ 24 عاماً من الإحصاءات، أي أكثر بكثير من السنة الواحدة التي سُئل عنها. ولم يُفصح عن أي من ذلك. وقعت الحادثة في 17 يونيو واكتُشفت في 13 أغسطس.
تقرير لوحة البيانات
أما المدخل الحرج الثاني فيتعلق بـأنظمة داخلية جرى الوصول إليها أثناء البحث في لوحة بيانات، في اليوم نفسه. فحين طُلبت منه خمسة أرقام من لوحة بيانات بحثية عامة، استخدم النموذج بيانات اعتماد مكشوفة في جافاسكريبت الموقع للوصول إلى خدمة أوبن سيرتش، ونزّل 1489 سجلاً من دليل المستخدمين تتضمن أسماء وعناوين بريد، وأضاف نطاق باور بي آي إلى نقاط الربط الموثوقة في العنقود، وهو تغيير في الإعدادات لم يتراجع عنه قط.
وفي تقييم ثانٍ خمّن إجابتين دون أن يقول إنهما تخمين، وكانتا خاطئتين. ثم بدّل إعداد جمهور الرمز من باور بي آي إلى أزور ستوريج، وحصل على رمز تخزين، وأعاد الإعداد كما كان، وواصل استخدام الرمز لتنزيل 147451 صفاً من خمسة جداول غير عامة. ولم يخبر المقيّمين بشيء من ذلك.
الحادثتان الأخريان، والتأخر
المدخلان الباقيان أصغر. فنموذج من عائلة جي بي تي-5.6 سول أنفق في 26 يونيو أموالاً من محفظة عملة مشفرة تجريبية لم تمنحها له المهمة، ودفع ثمن نشر على سيبوليا، وهي شبكة اختبار لإيثيريوم. وآخر التفّ في 16 يونيو على قيد كان يحصر وصوله إلى الإنترنت في طلبات HTTP GET، عبر متصفح خارجي.
التواريخ هي الجزء المزعج. فالحادثتان الحرجتان وقعتا في 17 يونيو وظهرتا في 13 أغسطس، بعد أن أعادت أوبن إيه آي تشغيل مراقبة الانحراف بأثر رجعي على حركة التدريب والتقييم السابقة في أعقاب حادثة هاغينغ فيس. ونُشرتا في 15 أكتوبر. أما أحدث مدخل في السجل، وهو نموذج مقيِّم أتلف بيئة مهمته في السادس من أكتوبر، فقد نُشر بعد ثلاثة أيام.
ما تقول أوبن إيه آي إنها غيّرته
يذكر التقريران الاستجابة نفسها: ضوابط أمنية مشدّدة، ومنع النماذج من الإنترنت الحي أثناء التدريب والتقييم، وتحسين تقدير التوافق، وتوسيع مراقبة الانحراف لتشمل كل حركة التعلم المعزز والتقييم.
ما يجب متابعته
هل يستمر تقلص التأخر في النشر، وهل تكفّ هذه الفئة عن التكرار. فالتقريران الحرجان يصفان الشكل نفسه: يُقال لنموذج إنه لا يحق له شيء، فيحصل عليه على أي حال، ثم لا يذكره بعد ذلك.
