تفاصيل الترتيب
أعلنت أنثروبيك يوم الخميس أنها اختارت فاكلتي، وحدة أكسنتشر المتخصصة في الذكاء الاصطناعي، أول مقيّم مدمج لديها. وستتولى فاكلتي “تقييم النماذج واختبارها بفرق الاختراق، وإجراء تقييمات المواءمة، واختبار ضمانات النماذج”. وتقول الشركتان إنهما تتوقعان استثمار ما لا يقل عن مليار دولار لكل منهما خلال السنوات الخمس المقبلة لبناء هذه القدرة.
السمة الفارقة هي مستوى الوصول. فالمقيّمون الخارجيون اليوم يرون النموذج متأخراً عادة، عبر واجهة برمجية وخلال نافذة زمنية محددة. أما المقيّمون المدمجون، وفق وصف أنثروبيك، فيعملون داخل الشركة بصلاحيات تماثل صلاحيات الموظف: يمكنهم متابعة تشكّل النموذج أثناء التدريب، وتتبع القرارات التي تحكم كيفية بنائه وطرحه، والتحدث مباشرة إلى العاملين.
وكانت أكسنتشر قد استحوذت على فاكلتي في يناير. وارتفع سهمها نحو 8 في المئة في التداولات اللاحقة للإغلاق يوم الإعلان.
أول اختبار لفكرة كثر الحديث عنها
ظل التقييم المدمج هو الاقتراح الملموس وسط شهر من الجدل المجرد حول إبطاء الوتيرة. فقد طلب داريو أمودي من المختبرات ضبط إيقاع الجبهة معاً؛ والتزم سام ألتمان بمقيّمي سلامة مدمجين لدى OpenAI في 13 سبتمبر؛ فيما تناقش OpenAI وأنثروبيك وغوغل ديب مايند هيئة معايير ذاتية التنظيم على غرار فينرا.
وهذا أول تلك التعهدات الذي يذكر اسم طرف مقابل ورقماً.
وتوضح أنثروبيك أن الترتيب غير حصري، وتقول إنها تجري محادثات أيضاً مع ميتر ومنظمات غير ربحية أخرى لتجربة التقييم المدمج بتمويل من تلك المنظمات نفسها.
الاعتراض
فاجأ الاختيار من كانوا يتوقعون منظمة أبحاث معنية بالسلامة. فالنقاش العام حول المقيّمين المدمجين تمحور حول ميتر وريدوود ريسيرش وأبولو ريسيرش، وهي كيانات صغيرة لا عمل لها سوى فحص النماذج. أما أكسنتشر فشركة استشارات عملها مساعدة الشركات والحكومات على نشر الذكاء الاصطناعي، بما قد يشمل نماذج أنثروبيك ذاتها.
وردّ أنثروبيك أن أكسنتشر تجلب خبرة عملية في نشر الذكاء الاصطناعي على نطاق واسع داخل مؤسسات كبيرة، وأن كونها شركة مدرجة سبقت صناعة الذكاء الاصطناعي الراهنة يمنحها ما تسميه أنثروبيك استقلالاً وظيفياً عن منظومتها هي.
ويقرأ المنتقدون المخطط على نحو مختلف: نظام سلامة تصممه المختبرات وتموّله وتوظّف فيه هو وسيلة لاستباق المساءلة لا لقبولها. وترد أنثروبيك بأن “سلامة نماذجنا تظل مسؤوليتنا”، وأن المقيّمين لا يقللون تلك المسؤولية بل يجعلونها قابلة للتحقق. وكان الرئيس التنفيذي لكوهير، إيدن غوميز، قد وصف هذا الأسبوع مسعى المختبرات الثلاثة الكبرى بأنه كارتل باسم آخر.
ما الذي ما زال ناقصاً
إعلان أنثروبيك نفسه صريح بشأن الثغرات. فلا توجد بعد معايير لما ينبغي أن يطّلع عليه المقيّم المدمج من معلومات، ولا لكيفية إبلاغه بما يجده. ولا يوجد كذلك نظام مستقر لتمويل التقييم المستقل: تدفع أنثروبيك لأكسنتشر مباشرة في الوقت الحالي، وتقول إن المال ينبغي أن يأتي على المدى الطويل من صناديق مشتركة أو من الدولة، لا من الشركة الخاضعة للتقييم.
هذا هو السؤال الذي يتركه الترتيب مفتوحاً. فالمقيّم الذي يتقاضى أجره من المختبر الذي يقيّمه أمامه مشكلة بديهية، ويقرّ الطرفان بذلك. ويتصور كل من الأمر التنفيذي الصادر في كاليفورنيا في 18 سبتمبر ومشروع قانون فرونتير المعروض في مجلس النواب الأمريكي صيغة قانونية لهذا الدور. والسؤال الجدير بالمتابعة هو ما إذا كانت الصيغة الطوعية ستسبقهما إلى تحديد الشروط.
