ما تقوله أوبن إيه آي
نسبت أوبن إيه آي علنًا إلى أشخاص مرتبطين بمونشوت إيه آي، المختبر الصيني صاحب كيمي، جهدًا منسّقًا لانتزاع الاستدلال المحمي من نماذجها. وفي منشور نُشر في 30 سبتمبر قالت الشركة إن أقدم نشاط رصدته كان في الأسبوع الأول من يوليو، وإنها أوقفت الحملة بالكامل في 28 يوليو.
الاستدلال المحمي هو حساب النموذج الداخلي، أي الجزء الذي لا يظهر في الإجابة. وتصف أوبن إيه آي النشاط بأنه تقطير عدائي: استخدام مخرجات نموذج أو استدلاله دون إذن للمساعدة في تدريب نموذج آخر أو إعادة إنتاجه. وتؤكد الشركة صراحة أن أي تشفير لم يُكسر، وأن أي قاعدة بيانات لم تُخترق، وأن أحدًا لم يصل مباشرة إلى محادثات مستخدمين مخزّنة.
الحيلة، والحجم
كانت الطريقة حوارية. ينسخ المشغّلون استدلالًا مشفّرًا من محادثة، ثم يطلبون من نموذج في محادثة أخرى فك تشفيره ونسخه. وكشف باحثون أمنيون مستقلون بصورة منفصلة عن ثغرات ذات صلة بين النماذج وفي ضغط المحادثات؛ وتقول أوبن إيه آي إنها تحققت من تلك النتائج وأكدت أن مسارات الهجوم كانت حقيقية.
كان الحجم منخفضًا في البداية. ففي 24 و25 يوليو أحصت أوبن إيه آي 16 ألف طلب يستخدم نمط انتزاع ذا صلة، من أكثر من 4 آلاف مستخدم. وبتوسيع البحث إلى أنماط مطالبات مشابهة ظهر تجمّع يضم أكثر من 15 ألف مستخدم إجمالًا. وثمة حاشية في منشور الشركة نفسها تهم هنا: هذه الأرقام تصف محاولات انتزاع، لا عمليات ناجحة بالضرورة.
وفي النسبة، تتحفظ أوبن إيه آي في اتجاه دون آخر. تقول إنه ليس واضحًا ما إذا كان كل المشغّلين الذين رصدتهم ينتمون إلى جهة واحدة، لكنها تنسب نواة النشاط إلى أشخاص مرتبطين بمونشوت إيه آي.
ما الذي تغيّر
حظرت أوبن إيه آي الحسابات أو قيّدتها، وشدّدت ضوابط التسجيل والبنية التحتية، ووسّعت مراقبة الشبكات ذات الصلة. وتقنيًا أغلقت المسار الذي كان يتيح لمن يملك استدلالًا مشفّرًا لمستخدم آخر أن يعيد تشغيله لاستعادة محتواه، وأضافت فحوصًا قادرة على رصد المخرجات المتدفقة التي قد تكشف استدلالًا وحجزها. وحيث مرّ النشاط عبر خدمات طرف ثالث، تقول إنها عملت مع تلك الجهات لتعطيل الحسابات المعنية.
كما شاركت النتائج عبر منتدى نماذج الحدود وقنوات حكومية لتبادل المعلومات، وتقول إن التلاعب الأساسي ليس حكرًا على نماذجها: فأي نظام يدعم آثار استدلال قابلة للنقل أو لإعادة التشغيل قد يكون معرّضًا لشيء مماثل.
ما يستحق المتابعة
هل تردّ مونشوت إيه آي، وبأي صياغة. وهل تنشر مختبرات متقدمة أخرى اكتشافات مماثلة بعد أن وُصفت التقنية عبر منتدى نماذج الحدود. وهل يستطيع أحد من خارج المختبرات التحقق من النسبة: فقد سمّت أوبن إيه آي شركة استنادًا إلى أدلة لم تنشرها، وهو الشكل المعتاد لهذا النوع من الإفصاح، وهو أيضًا سبب صعوبة تحقّق الآخرين منه.
