ستة مقيّمين بأجهزة الشركة
منحت Anthropic فريقاً من METR، المنظمة غير الربحية التي تقيّم نماذج الذكاء الاصطناعي المتقدمة، ما تسميه “وصولاً شبيهاً بوصول الموظفين”. صار لدى ستة من موظفي METR أجهزة من Anthropic ومساحة مكتبية وأدوات داخلية تماثل تقريباً ما تستخدمه فرق تقييم المخاطر داخل الشركة نفسها، وسينشرون نتائج تقييماتهم. وتقول Anthropic إنها لا تستطيع الاعتراض على تلك المنشورات.
تقدّم الشركة الخطوة بوصفها رداً على مشكلة صنعتها بنفسها: فهي تريد أن تُساءل علناً عن عملها في السلامة، لكن معظم الأدلة لا يمكن نشرها، إما لأنها ستساعد الجهات ذاتها التي وُضعت الضمانات لإيقافها، وإما لأنها حساسة تجارياً. وترى الشركة أن إدخال المقيّمين إلى الداخل يسدّ الفجوة بين ما تعرفه هي وما يستطيع أي طرف خارجي التحقق منه. وتشبّه الترتيب بالمفتشين المقيمين الذين تضعهم هيئات الرقابة المصرفية داخل البنوك، مع إقرارها بأن التشبيه ناقص.
ما يمكن للمقيّمين رؤيته وما لا يمكنهم
الوصول واسع لكنه محدود. تذكر Anthropic ثلاثة استثناءات: بيانات العملاء، والمواد المشمولة بسرية العلاقة بين المحامي وموكله، وتفاصيل بنية النموذج التي تقول الشركة إن خطر تسرّبها مرتفع وإن صلتها بتقييم المخاطر ضعيفة في العادة. وحين تكون البنية مهمة فعلاً، يمكن مشاركتها بموافقة داخلية صريحة.
أما في النشر، فتقول Anthropic إنها لا تستطيع حجب ما تكتبه METR، لكن يحق لها طلب حجب مقاطع ضمن فئات ضيقة محددة مسبقاً. ويحق لـ METR أن تعلن ما إذا كانت ترى الحجب مبرراً، من دون كشف ما حُذف. ولا يعمل على الترتيب سوى فريق صغير مرتبط بعقد داخل METR، فيما يُعزل بقية العاملين عنه.
ثلاثة مستويات ومن يجلس في كل منها
نظّمت Anthropic الوصول في ثلاثة مستويات. يغطي المستوى الأول تحقيقات ضيقة النطاق، تختار فيها الشركة ما يراه المقيّم وتوافق على ما يُنشر. ويوسّع المستوى الثاني المعلومات ويلغي شرط الموافقة، مبقياً فئات الحجب وحدها. أما المستوى الثالث فهو ترتيب METR: وصول شبيه بوصول الموظفين مع حقوق النشر الخاصة بالمستوى الثاني.
تقع SecureBio في المستوى الأول وتراجع فصل الأسلحة الكيميائية والبيولوجية من تقرير المخاطر الصادر في أغسطس، بعدما نشرت مراجعة تجريبية للتقرير السابق. وتتفاوض Accenture وFaculty على شراكة أوسع تشمل تقييم النماذج واختبارات الفرق الحمراء وتقييمات المواءمة واختبار الضمانات وبناء القدرات. وتندرج Hugging Face ضمن منظمات عدة في محادثات أولية. وتقول Anthropic إنها تأمل أن يبلغ عدة مقيّمين المستوى الثالث لاحقاً، وأن ينشر كل منهم قراءته الخاصة لمخاطر الشركة.
المعيار الذي تضعه Anthropic لنفسها
تعدّد الشركة أربعة شروط للمقيّم: الخبرة في تقييم النماذج المتقدمة، والاستقلالية بمعنى ألا يملك حصة في الشركة ولا يعتمد عليها مالياً أو تشغيلياً، ووصول كافٍ لتقييم التدريب والضمانات والنماذج، وحرية نشر ما يتوصل إليه.
وقّعت Anthropic اتفاق البيت الأبيض بشأن الذكاء الفائق، الذي تعهدت فيه الشركات بالعمل مع مدققين خارجيين مستقلين، والتزمت الشهر الماضي بتقييم أقوى من أطراف ثالثة. وهذه أول صورة ملموسة لذلك الالتزام. وتختم الشركة بأنها تفعل ذلك طوعاً وأن “على كل شركة ذكاء اصطناعي متقدمة أن تفعل الشيء نفسه”.
اختبار الترتيب هو ما ستنشره METR، وما إذا كان تقريرها الأول سيُقرأ على نحو مختلف عن التقارير التي تكتبها Anthropic عن نفسها. ولا يذكر الإعلان موعد صدور ذلك التقرير.
