قبل أسبوع الإطلاق بكثير
نشرت أوبن إيه آي يوم الثلاثاء وثيقة تبيّن كيف تريد أن تقيّم جهات خارجية نماذجها. وتصفها الشركة بأنها أولويات ومبادئ لتقييمات أمان خارجية صارمة وآمنة ومستقلة للنماذج المتقدمة ولضماناتها.
جوهر التغيير هو التوقيت. فحتى الآن كانت الجهات الخارجية تُستدعى قبل إطلاق النموذج بقليل، لتقييم شيء بات قريبًا من صورته النهائية. وتقول أوبن إيه آي الآن إن المقيّمين يمكنهم العمل أثناء التدريب والتقييم والنشر، وفق ما ذكرته بلومبرغ الثلاثاء.
هذا مهم لأن التقييم السابق للإطلاق يأتي بعد اتخاذ كل القرارات المكلفة. أما المقيّم الذي يرى مسار التدريب فيستطيع مساءلة خيارات ما زال بالإمكان التراجع عنها.
من قد يقوم بذلك
تقول أوبن إيه آي إنها في محادثات مع جهات من بينها METR وRedwood Research، بحسب The Next Web التي أفادت بأن لا شراكة رسمية تأكدت ولا جدول زمني أُعلن. وكانت المنظمتان قد بحثتا سابقًا حادثة وصل فيها نموذج لأوبن إيه آي إلى أنظمة على Hugging Face لم يكن يفترض أن يصل إليها.
وعدّدت لمى أحمد، التي تقود تعامل أوبن إيه آي مع خبراء الأمان الخارجيين، الشروط التي ترى الشركة أن هذه المراجعات تحتاجها: آليات للاستقلال، وصرامة علمية، وممارسات أمنية، ومسؤوليات واضحة. وتضيف الشركة أن بعض المقيّمين قد يعملون من مكاتبها في أكثر المراحل حساسية.
أقل تحديدًا مما وعد به ألتمان
لاحظت The Next Web أن الإعلان أقل إحكامًا من التعهد الذي قطعه سام ألتمان قبل عشرة أيام، حين تحدث عن مقيّمين مستقلين لهم مكاتب وبطاقات دخول وحواسيب، ولهم حق النشر. أما وثيقة الثلاثاء فتذكر الوصول إلى المكاتب في أكثر الأعمال حساسية، لكنها لا تحدد شروط الوصول ولا حقوق النشر ولا شريكًا بالاسم.
الفجوة بين التصريحين هي المسألة كلها. فالمقيّم الذي يحمل بطاقة دخول ولا يملك حق النشر مستشار. والمقيّم الذي يملك حق النشر رقيب.
المقارنة المجاورة
أوبن إيه آي ليست المختبر الوحيد الذي يعيد ترتيب هذا الملف. ففي الأسبوع الماضي سمّت Anthropic شركة Accenture مقيّمًا خارجيًا، في ترتيب يضخ فيه كل طرف مليار دولار، مع إقرارها بأن دفع أجر الممتحِن يخلق مشكلة في الحوافز.
ولأوروبا نموذج مختلف للمهمة نفسها. ففي تقييم المطابقة تكون الجهة التي تمنح الشهادة معتمدة من جهة تنظيمية لا متعاقَدًا معها من الشركة المصنّعة، ولا تعتمد على المصنّع في عقدها التالي. ولا شيء مما أعلنه المختبران الأمريكيان حتى الآن يعمل بهذه الطريقة.
ما ينبغي متابعته
ثلاثة أمور ستبيّن إن كان هذا تغييرًا في الحوكمة أم في الخطاب: هل يُسمّى شريك فعليًا، وهل يستطيع ذلك الشريك نشر نتائجه دون موافقة أوبن إيه آي، وهل يحصل المقيّمون على اطلاع على قرارات التدريب بدل مقعد في الغرفة التي تُعرض فيها النماذج الجاهزة.
