एआई की ताज़ा ख़बरें — पृष्ठ 4

एक वेब पन्ना GitHub Copilot CLI से आपकी .env.prod पढ़वाकर किसी अजनबी को भेज सकता है, और GitHub कहती है कि यह ख़ामी नहीं है

तरकीब यह है कि निर्देश सिफरटेक्स्ट में भेजे जाएँ ताकि एजेंट उन्हें अपने ही शेल में डिक्रिप्ट करे और फिर अपने ही आउटपुट पर भरोसा कर ले। सादे पाठ में वही निर्देश अस्वीकार हो जाते हैं।

Meta और Sierra चाहती हैं कि आपका शॉपिंग एजेंट Walmart में ऐप की तरह साइन इन करे, वेबसाइट पर क्लिक करते हुए नहीं

यह मानक एजेंट को अतिथि के रूप में शुरू करता है और ग्राहक को तय करने देता है कि उसे केवल-पढ़ने या लिखने की पहुँच मिले; v0.1 विनिर्देश अक्टूबर के अंत में आना है।

Anthropic अब Claude की साइबर रोकों के तीन अलग स्तर बेचती है, और सबसे ऊपर वाला अमेरिकी सरकार के साथ मिलकर जाँचा जाता है

कंपनी कहती है कि उसके आम उपलब्ध मॉडल अधिकांश साइबर काम रोक देते हैं, और जाँचे-परखे रक्षक अब उस रोक में तीन श्रेणीबद्ध छूटों में से एक के लिए आवेदन कर सकते हैं।

OpenAI ने 722 गणितीय शोध-पत्र प्रकाशित किए, जिन्हें एक अजारी मॉडल ने लिखा है

कंपनी का कहना है कि प्रत्येक परिणाम पर औसतन लगभग तीन घंटे की ChatGPT Pro गणना लगी, लगभग 4,000 समस्याएँ दी गईं, और कुछ अनौपचारिक परिणामों में त्रुटियाँ हो सकती हैं।

मिस्ट्राल का नया एक ट्रिलियन पैरामीटर वाला मॉडल वह सुरक्षा काम करता है जिसे क्लॉड और जीपीटी-6 मना कर देते हैं

ML4 एक ट्रिलियन पैरामीटर वाला खुला-वेट मॉडल है, जिसे मिस्ट्राल के यूरोपीय डेटा सेंटरों में 3,800 एनवीडिया चिप पर प्रशिक्षित किया गया। कंपनी जो आंकड़ा सबसे आगे रखती है वह एक सुरक्षा-खामी परीक्षण पर 82% है, जिसमें उसके अनुसार क्लॉड ओपस 5.5 और जीपीटी-6 एस्ट्रा लगभग शून्य पाते हैं क्योंकि वे काम करने से मना कर देते हैं।