مقال غير معتاد من رئيس الأبحاث في OpenAI
نشر كبير علماء OpenAI ياكوب باخوتسكي في السادس من سبتمبر مقالاً يرى فيه أن مختبرات الصف الأول تقترب من النقطة التي ينبغي عندها التوقف عن التوسع بأقصى سرعة ممكنة. وكتب في An Alien Mind: “أعتقد حالياً أن أي مختبر لم يحل المواءمة والمراقبة بدرجة كافية لمواصلة التوسع بمسؤولية عند أقصى سرعة لفترة أطول بكثير”. وقال إنه يتوقع أن يصبح التباطؤ الطوعي بين المطورين المتقدمين أمراً شائعاً إلى أن يُتفق على حدود أمان مشتركة.
جاء المقال بعد أيام من إطلاق OpenAI نموذج GPT-6 Astra، الذي تصفه الشركة بأنه الأقدر لديها، وفي الأسبوع نفسه الذي أقرت فيه وثائق النشر الخاصة بالشركة بأن استدلال Astra أصعب في الفحص من أنظمتها السابقة.
نوعان من المواءمة
يفصل باخوتسكي بين مواءمة الهدف — أي ما إذا كان النظام يسعى إلى الغاية التي كُلف بها — ومواءمة القيم، التي يصفها بأنها القدرة الأكثر جوهرية على التمسك بمجموعة من المبادئ العامة والتعميم انطلاقاً منها، والتصرف بصورة معقولة حين تكون الأهداف غامضة أو متعارضة وحين يكون الموقف غير مألوف أو عدائياً. ويرى أن هذه الخاصية الثانية هي التي تحدد ما إذا كان يمكن الوثوق بعمل أطول وأقل إشرافاً.
مشكلة المراقبة
أشد الاعترافات وضوحاً يتعلق بمراقبة سلسلة الاستدلال، أي قراءة الاستدلال الوسيط للنموذج للتحقق مما يفعله. وكتب باخوتسكي أن ثقة OpenAI في هذه الطريقة “تتناقص تدريجياً” لثلاثة أسباب: البيئات التي تعمل فيها النماذج تزداد تعقيداً، والنماذج تتحسن في الاستدلال حول عملياتها الخاصة، وهي تزداد ذكاءً دون أن تعبر بالضرورة عن ذلك بالكلمات.
وهذا مهم لأن مراقبة سلسلة الاستدلال كانت من الأساليب الرقابية القليلة التي تتوسع مع القدرة لا ضدها. ويتوقع باخوتسكي أن يصبح التقدم مقيداً بمدى ثقة المختبرات في مراقبتها أكثر من تقييده بحجم القدرة الحاسوبية التي تستطيع شراءها — وهو انقلاب في القيد الذي نظّم القطاع نفسه حوله على مدى ثلاث سنوات.
من التعهدات الطوعية إلى حدود يتحقق منها آخرون
المطلب السياسي محدد. يريد باخوتسكي أن تتحول الأطر الطوعية القائمة — إطار الاستعداد الخاص بـ OpenAI، وسياسة التوسع المسؤول لدى Anthropic — إلى حدود أمان مفروضة على نطاق واسع لمواصلة التطوير، تنفذها شبكة من المدققين المستقلين أو الجهات الحكومية أو الهيئات الدولية. ووصف التنسيق بين الحكومات بشأن مسار تطوير الذكاء الاصطناعي بأنه أولوية قصوى.
هذا موقف لافت من رئيس أبحاث المختبر الذي فعل الأكثر لتحديد الإيقاع. فقد دافعت OpenAI سابقاً عن أن تعهدات الأمان تعمل على أفضل نحو حين تضعها المختبرات لنفسها؛ وطلب تحقق خارجي منها إقرار بأن التنظيم الذاتي له سقف.
ما ينبغي مراقبته
تقول OpenAI إنها ستواصل البحث عن حلول تقنية للمواءمة والمراقبة، وبناء أنظمة دفاعية، والامتناع من جانب واحد عن مزيد من التوسع حين ترى ذلك ضرورياً. واختبار المقال هو ما إذا كان أي من ذلك سيصبح مرئياً من خارج الشركة. وأقرب المناسبات هو الحوار حول الذكاء الاصطناعي بين الولايات المتحدة والصين الذي يعده المسؤولون لمنتصف سبتمبر، حيث طرحت واشنطن فكرة مطالبة المختبرات في الجانبين بمراقبة نفسها وتبادل المعلومات — وهو بالضبط شكل التعهد الذي يرى باخوتسكي أنه لم يعد كافياً وحده.
