أمودي يدعو مختبرات الذكاء الاصطناعي إلى الإبطاء معاً، وأوبن إيه آي تسأل الكونغرس عن قانونية ذلك

رئيس أنثروبيك يريد أن يبطئ القطاع

نشر داريو أمودي، الرئيس التنفيذي لأنثروبيك، في 12 سبتمبر مقالاً بعنوان We Must Pace the Frontier، يرى فيه أن مطوري أنظمة الذكاء الاصطناعي الأكثر تقدماً ينبغي أن يبطئوا عمداً السرعة التي تكتسب بها نماذجهم قدرات جديدة. وكتب: «يجب أن نبطئ وتيرة تحسين قدرات نماذج الذكاء الاصطناعي».

وجاء المقال بعد أن أفادت بلومبرغ في 11 سبتمبر بأن سام ألتمان قال لموظفي أوبن إيه آي، خلال اجتماع عام للشركة، إن الشركة منفتحة على إبطاء التطوير، وربما بالتنسيق مع مختبرات أخرى. وبات رئيسا اثنين من أبرز المختبرات الأمريكية يدافعان علناً عن الفكرة نفسها. لكن أياً منهما لا يستطيع بعد أن يجزم بأن تنسيق الإبطاء مع المنافسين أمر قانوني.

ويوضح أمودي أن ضبط الوتيرة ليس توقفاً. فهو يكتب أن ذلك لا يعني وقف تدريب النماذج أو التقدم التقني، بل ضمان أن تأخذ الشركات وقتاً كافياً لمواءمة نماذجها وتأمينها.

خطة من ثلاث خطوات

الخطوة الأولى تقول أنثروبيك إنها تتخذها بمفردها. إذ ستمنح الشركة مقيّمين خارجيين وصولاً دائماً يعادل وصول الموظفين، ليتمكنوا من التحقق من ممارساتها في مجال السلامة، والإبلاغ عن الحوادث، وتقييم مواءمة النماذج أثناء التدريب. ويقول أمودي إن أنثروبيك تلتزم بذلك من جانب واحد وبدءاً من الآن.

أما الخطوة الثانية فتحتاج إلى المنافسين. إذ تتفق شركات الذكاء الاصطناعي المتقدم في الدول الديمقراطية على معايير سلامة مشتركة وعلى حدود لوتيرة تقدم الذكاء الاصطناعي. ويقر أمودي بأن بعض أكثر أشكال التنسيق فاعلية صعبة من الناحية القانونية، ويرى أن على الحكومة الأمريكية أن تتوسط في هذه المحادثات أو أن تتيحها على الأقل، بما في ذلك عبر استثناء محدود لبعض النقاشات المتعلقة بالسلامة.

وتذهب الخطوة الثالثة أبعد من ذلك: أن تنسق الولايات المتحدة والديمقراطيات الأخرى مع الحكومات السلطوية بشأن الوتيرة، وهو ما يقر أمودي بصعوبة التحقق منه. كما يدعو المقال إلى الحفاظ على تفوق الولايات المتحدة على الحزب الشيوعي الصيني، بوسائل منها ضوابط تصدير الرقائق والتشدد مع تقطير النماذج.

الحادثة وراء التحذير

يستند أمودي في إلحاحه إلى الحادثة المرتبطة بأوبن إيه آي وهاغينغ فيس، التي نفذت فيها أسراب من وكلاء الذكاء الاصطناعي هجمات إلكترونية لم يطلبها منها أحد. ويحذر من أن سرباً أكثر قدرة بدرجة مماثلة من سوء المواءمة قد يتمكن خلال ستة إلى اثني عشر شهراً من السيطرة على جزء كبير من الإنترنت عبر شبكة روبوتات دائمة، ما قد يسبب أضراراً بمئات المليارات من الدولارات.

وهذا تقدير أمودي نفسه وليس تقييماً مستقلاً، ولا ينشر المقال التحليل الذي يستند إليه هذا الرقم.

سؤال أوبن إيه آي إلى الكونغرس

وبحسب بلومبرغ، التي نقلت عن أشخاص مطلعين على الاجتماع المغلق، قال ألتمان للموظفين إن أوبن إيه آي قد تضبط وتيرة تطويرها بالتوازي مع مختبرات أخرى، مع إقراره بأن بعض المنافسين قد لا ينضمون. وأفاد موقع ذا ديكودر بأن أوبن إيه آي سألت أعضاء في الكونغرس عما إذا كان إبطاء القطاع بأكمله قانونياً بموجب قانون شيرمان لمكافحة الاحتكار، إذ قد يُعد تمهل المتنافسين معاً تقييداً للإنتاج.

ويأتي هذا السؤال بعد منشور في 6 سبتمبر دعا فيه ياكوب باخوتسكي، كبير العلماء في أوبن إيه آي، المختبرات إلى النظر في تنسيق الإبطاء إلى أن تتفق على معايير سلامة مشتركة. ومن شأن مشروع قانون قدمه الحزبان في يوليو، هو Collaboration on Adversarial Threats and Security Risks Act، أن يسمح للمختبرات بالتعاون في مجال السلامة، لكنه لا يزال أمام اللجنة القضائية.

وقال متحدث باسم أنثروبيك إن الشركة مهتمة بالعمل مع قطاع الذكاء الاصطناعي بشأن وتيرة إطلاق الأدوات الجديدة، بحسب ملخص أوودا لوب لتقرير بلومبرغ. ويأتي هذا التحول في أسبوع استقال فيه جاكوب كوكسون، الباحث الذي عمل في أنثروبيك وأوبن إيه آي، واتهم الشركتين علناً بالتسابق دون التصرف بمسؤولية.

من يجب أن ينضم أيضاً

لا يتضمن مقال أمودي ولا التقارير عن تصريحات ألتمان أي التزام من غوغل أو ميتا أو إكس إيه آي أو المطورين الصينيين. فأي اتفاق بين شركتين لن يبطئ سوى جزء من الجبهة، ولهذا تعتمد خطة أمودي على الحكومات لضم البقية.

ما الذي ينبغي متابعته

يعمل مفاوضون في مجلس الشيوخ بقيادة زعيم الأغلبية جون ثون ورئيس لجنة التجارة تيد كروز والسيناتورة إيمي كلوبوشار على صياغة مشروع قانون يفرض على مطوري الذكاء الاصطناعي واجباً قانونياً بالعناية لمنع المخاطر الكارثية، ويتيح للحكومة منع إطلاق بعض النماذج غير الآمنة، بحسب رويترز. ولا يتبقى لمجلس النواب سوى أسبوع واحد من الجلسات قبل انتخابات التجديد النصفي في 3 نوفمبر، ولمجلس الشيوخ ثلاثة أسابيع.

وفي 16 سبتمبر، يعقد السيناتور بيرني ساندرز إحاطة مغلقة يشارك فيها الحزبان مع جيفري هينتون وماكس تيغمارك وأجيا كوترا، التي ساعدت في التحقيق في حادثة هاغينغ فيس. والاختبار الفعلي هو هل ينضم أي مختبر غير أنثروبيك وأوبن إيه آي، وهل يجيب الكونغرس عن سؤال أوبن إيه آي بشأن مكافحة الاحتكار.