أوبن إيه آي تؤكد أن أسترا يكرّر طبقاته، وباحثو السلامة يقولون إن الأثر يختفي

ما نُشر وما أكدته أوبن إيه آي

نشرت ذي إنفورميشن أولاً أن أوبن إيه آي تستخدم تقنية تُسمى العمق المتكرر، وتوصف أحياناً بالمحوّلات الملفوفة، في جي بي تي-6 أسترا. وأوردت فورتشن في الثالث من سبتمبر أن التقنية أثارت قلق عدد من باحثي سلامة الذكاء الاصطناعي، وأن كبير علماء الشركة ياكوب باخوتسكي أقر باستخدامها ووعد بتفاصيل معمارية لاحقاً.

الآلية سهلة الوصف. فنموذج الاستدلال المعتاد ينتج خطواته الوسيطة نصاً: يكتب رموزاً، وتلك الرموز قابلة للقراءة. أما العمق المتكرر فيُمرّر الطبقات نفسها مراراً على حالة داخلية خفية قبل إصدار أي رمز. وتجري الحوسبة الإضافية في التنشيطات لا في الكلمات، فلا تترك أثراً في المخرجات.

والحجة لصالحها هي الكفاءة: عمق فعلي أكبر دون نموذج أكبر بالقدر نفسه.

لماذا يعترض باحثو السلامة

مراقبة سلسلة التفكير هي الأداة العملية الأولى التي تستخدمها المختبرات والجهات المقيِّمة الخارجية لضبط سوء سلوك النموذج. وهي تنجح لسبب غير لامع: إذا اضطر النموذج إلى كتابة استدلاله كي يستعمله، أمكن للمدقق أن يقرأ ما كتبه. وهذه الخاصية أثر جانبي للبنية لا ضمانة مصممة، وتزول حين يتوقف تدوين الاستدلال.

قال ستيفن أدلر، الباحث السابق في سلامة أوبن إيه آي، لفورتشن إن النهج قد يتجاوز أحد الخطوط الحمراء القليلة في القطاع. ووصفه بيتر وايلدفورد من شبكة سياسات الذكاء الاصطناعي بأنه مقلق جداً على الأرجح ومتهور على الأرجح. أما دانييل كوكوتايلو من مشروع AI Futures فطرح الحجة الأهم للمجال لا لنموذج بعينه: قد يحذو آخرون حذوها، والغموض ينتشر بالسابقة.

رد أوبن إيه آي

قال باخوتسكي إن الشركة تهتم اهتماماً عميقاً بمراقبة سلسلة التفكير، وإنها عملت على صونها والإفادة منها منذ أول نماذجها الاستدلالية. واعترض هو وباحثون آخرون في الشركة على التغطية، ورأوا أنها أثارت قلقاً يفوق ما فعلته الشركة فعلاً: إذ حدّت أوبن إيه آي من مدى استخدام البنية الملفوفة تحديداً كي يبقى استدلال النموذج مقروءاً.

ويمكن أن يكون الأمران صحيحين معاً. فاستخدام محدود للعمق المتكرر قد يترك استدلالاً مكتوباً يكفي للمراقبة. والخلاف في جوهره حول ما إذا كان ذلك الحد التزاماً أم خياراً هندسياً راهناً، ولا توجد مواصفة منشورة يُقاس عليها.

ما الذي يحسم المسألة

التفاصيل المعمارية التي وعد بها باخوتسكي. وتحديداً: أي قدر من عمق استدلال أسترا الفعلي يجري في الفضاء الكامن، وهل النسبة ثابتة أم تتوسع مع المهمة، وهل تحصل الجهات المقيِّمة الخارجية — المؤسسات التي أجرت تقييمات قدرات أوبن إيه آي هذا العام — على وصول يكفي لاختبار قابلية المراقبة لا الأداء وحده.

وإلى أن يوجد ذلك، فالسؤال ليس ما إذا كان أسترا قابلاً للمراقبة، بل أن لا أحد خارج أوبن إيه آي يستطيع التحقق حالياً.