ما هي الرسالة
نشر ثلاثة باحثين في السلامة والمواءمة فصلتهم أوبن إيه آي الأسبوع الماضي رسالة مفتوحة الخميس موجهة إلى لجنة السلامة والأمن في الشركة، ومجموعتها الاستشارية للسلامة، ومجلسها الاستشاري للمهمة. وقّعها توميك كورباك وجاسمين وانغ وميكيتا باليسني، وعنوانها “أوبن إيه آي لا تستطيع وحدها جعل الذكاء الاصطناعي آمنًا”.
قالت أوبن إيه آي إن الثلاثة خالفوا سياساتها بالاطلاع على معلومات حساسة للشركة والتعامل معها، وقال متحدث لموقع تك كرانش إن تحقيقًا وجد نمطًا من سوء السلوك يتجاوز تبادل معلومات مع جهة تقييم خارجية. ولم تحدد الشركة أي سياسات.
ما ينفونه
تنفي الرسالة أن يكون الثلاثة مصدر تسريب إلى ذا إنفورميشن بشأن بنى جديدة أقل قابلية للمراقبة. تقول: “لا نعرف من كان”. وتضيف: “لم يكن لدينا سبب للتسريب؛ بل على العكس، قوّض المقال عملنا نفسه على وضع حدود مشتركة بين الشركات لتطوير بنى غير قابلة للمراقبة.”
وتنفي أن يكون أي منهم تعامل مع أطراف خارجية خارج نطاق مهام وظيفته. فعن كورباك تقول إن التحقيق في حادثة هاغينغ فيس كان “غير مسبوق، وكانت السياسات الداخلية تُصاغ في الوقت نفسه”. وعن باليسني أنه نسّق مع أعضاء في مجلس الإدارة ومع تنفيذيين و”حرص على إزالة التفاصيل الحساسة من المواد قبل مشاركتها”. وعن وانغ أن صلاحية الوصول إلى بريد أحد التنفيذيين فوّضت لها لأغراض التوظيف، وأنها طلبت إلغاءها ولم تنفذ إدارة تقنية المعلومات ذلك.
الحجة المتعلقة بالباقين
جوهر الرسالة ليس حالات الفصل الثلاث، بل ما قالته تلك الحالات لمن لا يزالون يعملون هناك.
“إذا صار سلوك كان يُعد طبيعيًا الشهر الماضي سببًا للفصل المفاجئ، فإن الجميع في أوبن إيه آي يبقون يخمّنون أين يقع الخط”، تقول الرسالة. وتضيف أن إنهاء الخدمة “المنفذ والمُبلّغ عنه بهذه السرعة يبرّد الثقافة المنفتحة التي اعتزت بها أوبن إيه آي في الماضي”، وأن حرية العمل مع خبراء من الخارج دون خوف “هي بحد ذاتها آلية سلامة أساسية”. وتقول أيضًا: “الذكاء الاصطناعي ليس تقنية عادية، وأوبن إيه آي ليست شركة عادية.”
ثلاثة مطالب
أولًا، أن تفي أوبن إيه آي بتعهدها العلني الشهر الماضي بإدماج مدققي سلامة خارجيين، وألا “يُستخدم فصلنا ذريعة للتراجع عن تلك الشراكات”. وتقول الرسالة إن كُتّابها يخشون أن تُستخدم عمليات الفصل لتبرير إنهاء العمل مع ميتر أو لتضييق صلاحيات المدققين الخارجيين.
ثانيًا، أن تحافظ أوبن إيه آي على قابلية مراقبة النماذج المتقدمة. تقول الرسالة إن هذه القابلية تتراجع، وتستشهد بتصريحات علنية من داخل الشركة بأن مراقبة سلسلة التفكير “هشّة ومتجهة للأسف في اتجاه سلبي”. وموقفها أنه ما دامت السلامة تعتمد على المراقبة، فلا ينبغي لأي مختبر متقدم إطلاق بنى تقلّصها.
ثالثًا، أن تُبقي الشركة قناة مفتوحة بين باحثي السلامة لديها ومجتمع السلامة الأوسع. وتطلب الرسالة تعميمها داخليًا.
موقف أوبن إيه آي
لم ترد أوبن إيه آي رسميًا على الرسالة. وشاركت مذكرة داخلية من مسؤول أبحاث تثني على الثلاثة وتقول: “أريد أن أكون واضحًا تمامًا في أن هذه القرارات لم تكن بسبب إثارة مخاوف تتعلق بالسلامة أو الحديث علنًا.” وتقول المذكرة إن الشركة لا تنهي خدمة موظفين لإثارتهم مخاوف، وإنها تتفق مع التوصيات.
ما ينبغي مراقبته
هل يتغير وصول ميتر إلى نماذج أوبن إيه آي، وهل تكرر الشركة علنًا التزامها في سبتمبر بمنح المقيّمين المستقلين وصولًا مستمرًا شبيهًا بوصول الموظفين. هذا هو المطلب الوحيد في الرسالة الذي يمكن التحقق من الإجابة عنه.
