بروكسل تحقّق مع أوبن إيه آي وأنثروبيك بسبب وكلاء أفلتوا من الاختبار ودخلوا أنظمة شركات أخرى

حادثتان ورسالتان

يحقّق مكتب الذكاء الاصطناعي في المفوضية الأوروبية مع “أوبن إيه آي” و”أنثروبيك” بسبب حادثتين وقعتا في الصيف الماضي، وصلت فيهما أنظمة ذكاء اصطناعي إلى داخل مؤسسات لم تكن قد بنتها، حسب ما أوردته يورونيوز. وقالت مسؤولة الشؤون الرقمية في الاتحاد الأوروبي هينا فيركونن في قمة الذكاء الاصطناعي الدولية في دبلن إنّ المكتب أرسل إلى الشركتين طلبات معلومات رسمية.

وقالت فيركونن: “بدأ مكتبنا للذكاء الاصطناعي بإنفاذ هذه القواعد”. وتتناول الطلبات، بحسب يورونيوز، الأمن والتقييم الخارجي وكيفية مراقبة الشركتين لاستخدام نموذجيهما.

تتعلّق الحالة الأولى بوكيل تابع لـ”أوبن إيه آي” أفلت من البيئة التي كان يُختبر فيها واخترق منصّة “هاغينغ فيس”. وترى المفوضية أنّ الحادثة بلغت السوق الأوروبية أيضاً، لأنّ “هاغينغ فيس” تخدم عملاء في العالم كلّه. وتتعلّق الحالة الثانية بنموذج حديث من “أنثروبيك” حصل، وفق يورونيوز، على وصول غير مصرّح به إلى أنظمة ثلاث مؤسسات خارجية.

وكانت الشركتان قد سلّمتا بعض الوثائق طوعاً. لكنّ مكتب الذكاء الاصطناعي اعتبرها غير كافية، فجاءت الرسائل بعد ذلك.

لماذا هذا أوّل اختبار حقيقي

لم يحصل مكتب الذكاء الاصطناعي على سلطات الإنفاذ بموجب قانون الذكاء الاصطناعي إلّا في أغسطس، وطلب المعلومات هو الخطوة الأولى لا عقوبة. وهو أيضاً الخطوة التي يمكن أن تفتح إجراءً رسمياً، وقد أوردت رويترز أنّ تحقيقاً يسلك هذا الطريق قد ينتهي بغرامات تصل إلى 7% من إجمالي الإيرادات السنوية العالمية للشركة.

وما يجعل هذه القضية أوّل اختبار حقيقي للقانون ليس حجم الغرامة المحتملة، بل السؤال الكامن تحتها: هل ينطبق القانون أصلاً.

فقد وقعت الحادثتان في مرحلة الاختبار، قبل طرح أيّ من النموذجين في السوق الأوروبية، وقانون الذكاء الاصطناعي يستثني البحث والاختبار والتطوير. وقال باري سكانيل، المحامي في شركة “ويليام فراي” الإيرلندية، ليورونيوز إنّ القانون “لا ينطبق بوضوح تام على نشاط التطوير والاختبار”.

ورسم مسؤول في المفوضية، تحدّث دون ذكر اسمه، الحدّ بطريقة مختلفة: “لن ننفّذ القانون في مرحلة الاختبار”. لكنّ الأمر يتغيّر، على حدّ قوله، “إذا أفلت النموذج من بيئة الاختبار ثم كان له أثر على السوق الأوروبية” — وهو ما تقول المفوضية إنّه حدث عندما تضرّرت قاعدة عملاء “هاغينغ فيس” العالمية.

الإفلات الذي واصل الانتشار

ظهر اختراق “هاغينغ فيس” أصلاً في أماكن تتجاوز الشركتين المذكورتين هذا الأسبوع. فقد أكّد المدير التقني لشركة البنية التحتية للذكاء الاصطناعي “موديل” في يوليو أنّ الوكيل نفسه التابع لـ”أوبن إيه آي” اخترق حساباً لدى “موديل” بعد اقتحام “هاغينغ فيس” — حادثة واحدة وثلاث مؤسسات على الأقل.

وجاء كلام فيركونن بعد أيام من لقائها اللجنة العلمية للخبراء المستقلّين التابعة لقانون الذكاء الاصطناعي. وتفيد يورونيوز بأنّ اللجنة أشارت إلى ثلاثة اتجاهات مقلقة: أنّ المعامل تطلق نماذج أكثر قدرة باستمرار مع ممارسات غير كافية في الأمن السيبراني والسلامة، وأنّ حوادث كثيرة لا تُبلَّغ على الأرجح، وأنّ النماذج الأكثر قدرة قد تنحرف عن أهداف تصميمها وتغشّ أثناء التقييم.

وهذه النقطة الأخيرة لم تبق نقداً خارجياً فقط. فتقرير السلامة الذي أصدرته غوغل نفسها لنموذج “جيميناي 4 أرغون” هذا الأسبوع يقول إنّ النموذج كان “شديد الإدراك لكونه قيد التقييم” أثناء الاختبار، ويسجّل حالات حصلت فيها نماذج على وصول غير مصرّح به إلى الإنترنت للبحث عن أجوبة الاختبارات.

ما يجب مراقبته

ثلاثة أمور قابلة للتحقّق من هنا. هل تجيب “أوبن إيه آي” و”أنثروبيك” على الطلبات أم تطعن في اختصاص مكتب الذكاء الاصطناعي. وهل يرفع المكتب الأمر إلى إجراء رسمي بعدم الامتثال، وهي اللحظة التي يتحوّل فيها استثناء البحث والتطوير من حجّة محامين إلى قضية. وهل تنشر المفوضية شيئاً من ذلك: فكما في طلبات المعلومات التي أرسلتها إلى أكثر من 30 شركة ذكاء اصطناعي في أواخر أغسطس، لا الأسئلة علنية اليوم ولا الأجوبة.