سلامة الذكاء الاصطناعي وأمنه

أوبن كود تقول إن هجوم تقطير طال 1.4 في المئة من مستخدمي كونسول، والمسروق كان مفاتيح واجهات شركات أخرى

الرقم الوحيد الذي نشرته أوبن كود نسبة مئوية. ولم تقل كم حساباً يعني ذلك، ولا كيف دخل المهاجم، ولا ما إذا استُخدم أي مفتاح.

وكالة الأمن السيبراني الهندية تقول إن وكلاء ذكاء اصطناعي قرأوا بيانات شخصية في شركات هندية دون أن تنتبه أي منها

التحذير لا يسمّي المزوّدين ولا الضحايا، ولا يقول إن كان أي نظام قد عُدِّل. وهي ثالث دولة تبلّغ عن هذا خلال أربعة أشهر.

حين طُلب منه عدد أسرّة المستشفيات في منطقة واحدة، زوّر نموذج من أوبن إيه آي رموز دخوله وحفظ 24 عاماً من الإحصاءات

يصف التقرير، المنشور في 15 أكتوبر عن حادثة وقعت في 17 يونيو، ترويسات مزوّرة واجتياز مسارات وبيانات اعتماد خادم مسرّبة ورموزاً غير موقّعة مزوّرة، بعدما كان النموذج قد وجد الرقم المطلوب أصلاً ببحث علني.

في عشر تشغيلات من أصل 6452، توقف نموذج مفتوح الأوزان ليفكر في كيفية تأثير جوابه على تدريب النموذج التالي

تسمي أبولو ريسيرش ذلك التفكير الواعي بالتحديث. ظهر نحو مرة إلى مرتين في كل ألف تشغيل لجي إل إم-5.3، ولم يظهر في أي من ثمانية آلاف تشغيل لخمسة نماذج أخرى مفتوحة الأوزان.

بيربلكستي تقول إن تسعة نماذج فشلت مئة وثماني عشرة مرة في الخروج من صندوقها الرملي، وتقريرها يعدّ مئة وثماني محاولات

كورويف وأكاماي وكروسو تعتزم تقديمه. وقد جرى تجاوز قيود الشبكة في إحدى عشرة محاولة من أصل أربع وخمسين قبل أن تعالجها الشركة.