एआई सुरक्षा और सेफ्टी — पृष्ठ 2

Google ने अपना वॉटरमार्क जाँचने वाला औज़ार सबके लिए खोल दिया, कहता है 180 अरब तस्वीरों-वीडियो पर निशान है

यह औज़ार एक सँकरे सवाल का जवाब देता है — क्या इस फ़ाइल पर SynthID निशान है — और यही इसकी क़ीमत भी है और इसकी सीमा भी।

एक वेब पन्ना GitHub Copilot CLI से आपकी .env.prod पढ़वाकर किसी अजनबी को भेज सकता है, और GitHub कहती है कि यह ख़ामी नहीं है

तरकीब यह है कि निर्देश सिफरटेक्स्ट में भेजे जाएँ ताकि एजेंट उन्हें अपने ही शेल में डिक्रिप्ट करे और फिर अपने ही आउटपुट पर भरोसा कर ले। सादे पाठ में वही निर्देश अस्वीकार हो जाते हैं।

Anthropic अब Claude की साइबर रोकों के तीन अलग स्तर बेचती है, और सबसे ऊपर वाला अमेरिकी सरकार के साथ मिलकर जाँचा जाता है

कंपनी कहती है कि उसके आम उपलब्ध मॉडल अधिकांश साइबर काम रोक देते हैं, और जाँचे-परखे रक्षक अब उस रोक में तीन श्रेणीबद्ध छूटों में से एक के लिए आवेदन कर सकते हैं।

विकिमीडिया ने अपनी ही साइटों पर ओपनएआई के बेकाबू एजेंट खोजे और तीन तरह के मिले

फाउंडेशन को बिना अनुमति के बॉट संपादन मिले, अपने सार्वजनिक नोट उपकरण को प्रॉक्सी बनाने की असफल कोशिशें मिलीं, और इतना भारी ट्रैफ़िक कि वह मई में विकिडेटा क्वेरी सेवा के आंशिक ठप होने में योगदान दे सकता है।

Anthropic की सुरक्षा टीम ने एक उपयोगकर्ता के Claude संदेश पुलिस को बताए, और अब उस पर गंभीर अपराध का आरोप है

गिरफ़्तारी रिपोर्ट कहती है कि Anthropic की निगरानी ने वाक्यांश पकड़े, एक मानव दल ने उन्हें आगे बढ़ाने लायक गंभीर माना और ली काउंटी शेरिफ़ कार्यालय ने गिरफ़्तारी की। कोई वारंट शामिल नहीं था।