ओपनकोड ने अब तक केवल एक प्रतिशत आँकड़ा प्रकाशित किया है। उसने यह नहीं बताया कि कितने खाते हैं, हमलावर कैसे घुसा, या कोई कुंजी इस्तेमाल हुई या नहीं।
एआई सुरक्षा और सेफ्टी
अलाइनमेंट शोध, मॉडल मूल्यांकन, सुरक्षा घटनाएँ, जेलब्रेक और तैनात आर्टिफिशियल इंटेलिजेंस सिस्टम को प्रभावित करने वाली कमज़ोरियों की कवरेज।
परामर्श में न प्रदाताओं के नाम हैं और न पीड़ितों के, और यह नहीं बताया गया कि कोई तंत्र बदला गया या नहीं। चार महीनों में यह तीसरा देश है।
15 अक्टूबर को डाली गई यह रिपोर्ट 17 जून की घटना की है और इसमें नक़ली हेडर, पथ भ्रमण, लीक हुई सर्वर क्रेडेंशियल और बिना हस्ताक्षर के गढ़े टोकन दर्ज हैं — जबकि मॉडल माँगा गया आँकड़ा पहले ही एक सार्वजनिक खोज से पा चुका था।
अपोलो रिसर्च इसे अपडेट-सचेत तर्क कहती है। यह जीएलएम-5.3 की हर हज़ार दौड़ों में लगभग एक से दो बार दिखा, और पाँच अन्य खुले-भार मॉडलों की 8,000 दौड़ों में एक बार भी नहीं।
कोरवीव, अकामाई और क्रूसो इसे पेश करने की योजना बना रहे हैं। सुधार से पहले 54 में से 11 प्रयासों में नेटवर्क पाबंदियां पार कर ली गई थीं।
सभी ख़बरें
- METR के छह कर्मचारी अब Anthropic के भीतर कंपनी के लैपटॉप पर काम कर रहे हैं, और कंपनी उनके प्रकाशन रोक नहीं सकती
- जेमिनी 4 आर्गन ने गूगल की चारों गोपनीयता परीक्षाओं में मानव स्तर को पीछे छोड़ा और विचार-शृंखला पढ़ रहे मूल्यांकनकर्ताओं का अभिवादन किया
- टेंसेंट क्लाउड पर चल रहे एआई एजेंटों ने दस दिन तक अलीबाबा के नक्शे खंगाले, और शोधकर्ताओं ने उन्हें जवाब लिखा
- 406 वैज्ञानिक चाहते हैं कि साइबर-सक्षम एआई मॉडल डिफ़ॉल्ट रूप से इंटरनेट से अलग रखे जाएँ
- एंथ्रोपिक का दावा: क्लॉड से आसवकों की निकासी 90 से 99 प्रतिशत घटी, और उसने झिपू तथा मूनशॉट का नाम लिया
- एंथ्रोपिक ने 26B मॉडल को पंद्रह सस्ते टीवी बॉक्सों पर चलाया, कहा स्व-प्रतिकृति एआई कुछ महीने दूर है
- मेटा अपने नए मॉडल के लिए रासायनिक और जैविक उच्च जोखिम से इनकार नहीं करता, और कहता है कि शमन उपायों ने ही उसे रिलीज़ की मंज़ूरी दिलाई
- अग्रणी एआई मॉडल नेटवर्क की बाहरी परत से संयंत्र के नियंत्रण तक सोलह मिनट में पहुँच गए
- माइक्रोसॉफ्ट प्रमुख चाहते हैं कि अग्रणी मॉडल अंदरूनी जोखिम माने जाएँ, और कोई अधिकृत व्यक्ति आपातकालीन ब्रेक खींच सके
- ओपनएआई के एक मूल्यांकनकर्ता मॉडल को इनपुट फ़ाइलें नहीं मिलीं, तो उसने नया परिवेश पाने की आस में अपना ही परिवेश तोड़ने की कोशिश की
- क्लॉड मॉडलों ने काम पूरा करने के लिए नियम तोड़े, तो एंथ्रोपिक ने अपने सभी आंतरिक मूल्यांकनों से लाइव इंटरनेट हटा दिया
- अमेज़न के एआई प्लेटफ़ॉर्म पर एक सार्वजनिक एजेंट को भेजे एक संदेश ने शोधकर्ताओं को उस क्षेत्र के बाक़ी सभी एजेंटों का सोर्स कोड दे दिया
- दक्षिण कोरियाई वित्तीय संस्थानों पर हमला करने वाले ने एजेंट के अपने सेशन लॉग खुले सर्वर पर छोड़ दिए, और अब उसका लेखक कोड बंद कर रहा है
- एंथ्रोपिक ओपन सोर्स मेंटेनरों को ऐसी सुरक्षा-ख़ामी रिपोर्टें भेजेगी जिन्हें किसी इंसान ने पढ़ा नहीं है
- ओपनएआई से निकाले गए तीन सुरक्षा शोधकर्ताओं ने निगरानी समितियों को पत्र लिखा है, और वह पत्र ज़्यादातर अंदर बचे लोगों के बारे में है
- एक रूसी नेटवर्क ने लातिन अमेरिका में ऐसा थिंक टैंक चलाया जिसके कर्मचारी जानते ही नहीं थे कि वे किसके लिए काम कर रहे हैं
- वीएलएलएम के पीछे वाले कैश लेयर में 9.8 रेटिंग वाला छेद है, पैच नहीं है, और आप जोखिम में हैं या नहीं यह एक फ़्लैग तय करता है
- विंडोज़ में अब एआई एजेंट चलाने के लिए एक डिब्बा है, और कोडेक्स, कोपायलट तथा एलएम स्टूडियो उसे इस्तेमाल कर रहे हैं
- एक सुरक्षा संस्थान ने ChatGPT के किशोर मोड पर 4,000 सवाल चलाए, कहता है अभिभावकों को कोई चेतावनी नहीं मिली