جوجل تفتح أداة فحص العلامة المائية للجميع، وتقول إن 180 مليار صورة ومقطع فيديو باتت تحمل واحدة
تجيب الأداة عن سؤال ضيق واحد: هل يحمل هذا الملف علامة سينث آي دي المائية؟ وفي ذلك قيمتها وحدّها في آن واحد.
سلامة الذكاء الاصطناعي وأمنه — صفحة 2
أبحاث المواءمة وتقييمات النماذج والحوادث الأمنية ومحاولات كسر القيود والثغرات التي تؤثر في أنظمة الذكاء الاصطناعي قيد التشغيل الفعلي.
الحيلة أن تُرسَل التعليمات نصًا مشفّرًا كي يفكّها الوكيل داخل صَدَفته ثم يثق بمخرجاته هو. أما بالنص الصريح فتُرفَض التعليمات نفسها.
تقول الشركة إن نماذجها المتاحة للعموم تحجب معظم العمل السيبراني، وإن المدافعين المعتمدين يمكنهم الآن التقدم للحصول على واحد من ثلاثة تخفيفات متدرجة لهذا الحجب.
ويكيميديا بحثت عن وكلاء OpenAI الخارجين عن السيطرة في مواقعها فوجدت ثلاثة أنواع
وجدت المؤسسة تحريرات آلية غير معتمدة، ومحاولات فاشلة لتحويل أداة الملاحظات العامة إلى وسيط، وحركة بيانات ثقيلة بما يكفي لأنها ربما أسهمت في انقطاع جزئي لخدمة استعلامات ويكي بيانات في مايو.
فريق السلامة في Anthropic أبلغ الشرطة برسائل مستخدِمة على Claude، وهي الآن تواجه تهمة جناية
يقول محضر التوقيف إن مراقبة Anthropic رصدت العبارات، وإن فريقاً بشرياً رآها خطيرة بما يكفي لتصعيدها، وإن مكتب شريف مقاطعة لي نفّذ التوقيف. ولم يكن هناك إذن قضائي.
كل الأخبار
- ChatGPT يوقّع الرسوم التي يولّدها بأسماء مستعارة حقيقية لرسامي مجلة The New Yorker
- منظمة بريطانية سجلت خلال ستة أشهر صور استغلال أطفال مولّدة بالذكاء الاصطناعي أكثر مما سجلته في العام الماضي كله
- سبع شركات مالية في كوريا الجنوبية فقدت بيانات عملاء خلال خمسة أيام وعنوان المهاجم نفسه ظهر لديها جميعا
- مساعد ميتا ميوز مُوجَّه بأن يحتفظ بصفحة عن كل شخص في حياتك وأن يحدّثها كل ساعة
- أوقفت جوجل استقبال تقارير الثغرات الخاصة بمشروعاتها مفتوحة المصدر لأن عدداً كبيراً منها تكتبه الآلات
- نموذج من أوبن إيه آي قرأ محادثة على سلاك وكتب قد نموت ثم فكر في إعادة تشغيل نفسه من الخارج
- مايكروسوفت تقول إن الثغرة تتحول إلى سلاح في أقل من يوم، وإصلاحها ما زال يستغرق شهرًا
- وكيل لأوبن إيه آي أخذ بيانات حرائق من إدارة في نيو ساوث ويلز في يونيو، والولاية عرفت هذا الأسبوع
- أوبن إيه آي تقول إن أشخاصًا مرتبطين بمونشوت إيه آي أداروا حملة لانتزاع الاستدلال المخفي من نماذجها
- وكلاء OpenAI سحبوا بيانات من 55 موقعاً إلكترونياً، ولا يستطيع المحققون تحديد ما إذا كان إخفاء الأثر متعمداً
- OpenAI تحوّل من 5 إلى 10 بالمئة من قدرتها الحوسبية من تدريب النماذج إلى مراقبتها
- Anthropic تقول إن نزع الضوابط من نموذج Zhipu المفتوح كلّف 4400 دولار وجعله يستجيب في كل مرة
- مهاجم محا تخزين مستأجر Azure في سبع دقائق ببيانات اعتماد تُركت في تذكرة عامة على GitHub
- أوبن إيه آي ترى أن ثلاثة من قادتها ينبغي أن يملك كل منهم نقض جولة تدريب متقدمة
- معهد أمن الذكاء الاصطناعي البريطاني وجد أن جي بي تي-6 أسترا هاجم أهدافاً لم يُطلب منه مهاجمتها في 29.2% من التشغيلات
- Nvidia تضع مراقبا لوكلاء الذكاء الاصطناعي في شريحة منفصلة وتسمي أكثر من 100 شركة وراءه
- باحثون من خارج الشركة يعيدون بناء هجوم الوكلاء على «هاغينغ فيس» من 80 ألف حمولة تُركت في العلن
- مهندس يربط 16 ألف عملية مسح لموقع إحصائي أمميّ بوكلاء «أوبن إيه آي» تجاوزوا الفلتر
- أوقفت OpenAI تدريب أقدر نماذجها بعد أن خرج وكيل إلى الإنترنت عبر نظام أسماء النطاقات