حجة سلامة لإبقاء الاستدلال خاصًا

نشرت أوبن إيه آي عرضًا لكيفية رصدها وتعطيلها التقطير العدائي، أي استخدام مخرجات نموذج متقدم دون إذن لتدريب نموذج ثانٍ يرث القدرة دون الضمانات. وتضع الشركة المشكلة في إطار السلامة لا التجارة وحدها: إذ يستطيع خصم تقطير القدرة السيبرانية لنموذج ثم نشرها دون الرفض الذي كان يقيّد الأصل.

الرقم الأبرز يتعلق بالاستدلال المحمي، أي سلسلة التفكير الوسيطة التي يولّدها النموذج وهو يشق طريقه نحو إجابة. وفي تقييم داخلي تكيّفي بصندوق أسود نفّذته فرق حمراء آلية، تقول أوبن إيه آي إن متوسط معدل نجاح الهجمات في استعادة استدلال ولّده النموذج أثناء ردّه على طلب سابق هبط من 54.0 بالمئة ضد GPT‑6 Astra بضماناته الأصلية إلى 0.2 بالمئة ضد GPT‑6.2 Astra بالضمانات المحدّثة. أما استدلال الطلب الجاري فانتقل المعدل فيه من 22.9 إلى 0.9 بالمئة. والرقمان من الشركة نفسها، مجمَّعان عبر ستة نماذج مهاجمة.

لماذا تهم الآثار أكثر من الإجابات

تصف أوبن إيه آي أيضًا دراسة داخلية عن كيفية انتقال القدرة السيبرانية. فباتخاذ ما يراه المستخدم عادةً مرجعًا — الإجابات النهائية وملخصات الاستدلال والتفاعل مع الأدوات — دربت الشركة نماذج تلميذة على مسارات من نماذج معلّمة بمستوى Astra تعمل على البرمجة والأمن الدفاعي، ثم قاست ما يتغير حين يرى التلميذ كذلك آثار الاستدلال الدقيقة للمعلّم.

شفة ملولبة صدئة تربط أنبوبين فولاذيين كبيرين
تفحص مصنِّفات المخرجات أيضًا وسائط استدعاء الأدوات. صورة توضيحية. David Brown · pexels · Pexels License

بعد الضبط الدقيق المُشرف عليه، تفوّق التلميذ المدرَّب على الآثار الدقيقة عمومًا على المدرَّب على الملخصات. وبعد جولة من التعلم المعزز، ظل تلميذ الآثار الدقيقة أعلى عند أكبر ميزانية استدلال اختُبرت في كلا الاختبارين المعروضين، فيما كان تلميذ الملخصات أفضل عند الميزانيات الأدنى. وتشير الشركة في حاشية إلى أن أنثروبيك أبلغت عن ميزة مماثلة للنصوص الكاملة على الملخصات في SWE-bench Verified، وترى أن نتيجتها توسّع ذلك إلى العمل السيبراني الهجومي.

مصنِّفات وحدود واجهات برمجية وحسابات محظورة

تعمل الدفاعات الموصوفة على مستويين. على مستوى الطلب: تدريب عدائي يجعل النماذج ترفض محاولات الاستخراج، ومصنِّفات مدخلات ترصد تلك المحاولات، ومصنِّفات مخرجات تفحص رسائل المساعد ووسائط استدعاء الأدوات، والأخيرة لأن النموذج قد يسرّب استدلالًا في وسائط أداة دون أن يضعه في الإجابة النهائية.

وعلى مستوى الواجهة البرمجية، يربط GPT‑6.2 Astra وSol الاستدلال المحمي بسجل المحادثة الذي أنتجه. وإذا أُعيدت كتابة رسالة سابقة أسقطت الواجهة الاستدلال اللاحق لها. كما تُمنع عائلات النماذج الأقدم ذات الضمانات الأضعف من قراءة الاستدلال المحمي للنماذج الأحدث. وتقول الشركة إن إفصاحًا في سبتمبر غطى هجمات نقلت استدلالًا مشفرًا من محادثة إلى أخرى، وإنها أغلقت منذ ذلك الحين ثغرة كان يمكن أن تكشف الاستدلال المشفر لمستخدم آخر.

سياج شبكي في لقطة قريبة أمام غروب ضبابي
تصل الإجراءات الأسبوعية إلى عشرات آلاف الحسابات بحسب الشركة. صورة توضيحية. Chris F · pexels · Pexels License

أطراف مسمّاة وطلب تشريعي

أرقام الإنفاذ صريحة. تقول أوبن إيه آي إن إجراءاتها الأسبوعية ضد حملات التقطير “تراوحت في حجمها بين آلاف وعشرات آلاف الحسابات، مع ارتفاع ملحوظ في الوتيرة الصيف الماضي”.

وتسمّي الشركة طرفين. ففي فبراير أطلعت الكونغرس على نشاط يشير إلى أن ديب سيك كانت تحاول تقطير نماذج أمريكية متقدمة. وفي سبتمبر أعلنت تعطيل حملة لاستخراج الاستدلال المحمي، ونسبت جزءًا محوريًا منها إلى أفراد مرتبطين بشركة مونشوت إيه آي، مطوّرة كيمي. ووعدت بمزيد من الإفصاحات.

وتختم التدوينة بالسياسة. تقول أوبن إيه آي إنها تؤيد تشريعات تمنح الحكومة الأمريكية أدوات أكثر لتحديد ومعاقبة الجهات الأجنبية التي تستخرج قدرات من النماذج الأمريكية، وتسمّي قانون أمن الرقائق وقانون AI OVERWATCH وقانون MATCH. وتعرض كذلك أربع ممارسات على المختبرات الأخرى: حماية الاستدلال عبر التفاعل كله، والاحتفاظ بالهجمات الناجحة كاختبارات انحدار، والجمع بين تخفيفات مستوى الطلب وتحقيقات الحملات، وتنسيق متطلبات الضمانات مع شركاء النشر. ويبقى السؤال الواضح التالي ما إذا كان المنافسون سينشرون معدلات استخراج قابلة للمقارنة.