दाम का दसवाँ हिस्सा

Anthropic ने 7 अक्टूबर को Claude Haiku 5.5 जारी किया और उसे अपना अब तक का सबसे सस्ता, सबसे तेज़ और सबसे सक्षम छोटा मॉडल बताया।

दाम ही ख़बर है। एक लाख टोकन तक के प्रॉम्प्ट पर इनपुट का दाम 0.10 डॉलर प्रति मिलियन टोकन और आउटपुट का 0.50 डॉलर है। Haiku 4.5 इसके लिए 1.00 और 5.00 डॉलर लेता था — दस गुना। एक लाख टोकन से बड़े प्रॉम्प्ट पर नया मॉडल 0.50 और 2.50 डॉलर लेता है, फिर भी पुरानी दर का आधा। कैश पठन 0.10 से घटकर 0.01 डॉलर और कैश लेखन 1.25 से घटकर 0.125 डॉलर हो गया।

Anthropic औसत बचत लगभग 75% बताती है, और एक पाद-टिप्पणी गणित खोल देती है: एक लाख टोकन से छोटी माँगों पर 90% कम, उससे बड़ी पर 50% कम। Sonnet 5.5 का कैश-पठन दाम भी लॉन्च पर आधा हुआ, 0.20 से 0.10 डॉलर।

Anthropic क्या अंक बताती है

नीचे दिए सभी आँकड़े विक्रेता के अपने हैं, Anthropic के आंतरिक मूल्यांकन से, और किसी की स्वतंत्र पुनरावृत्ति नहीं हुई है।

OSWorld 2.1 पर कंपनी की तालिका Haiku 5.5 को 72.4% देती है, जबकि Haiku 4.5 को 15.7% और OpenAI के GPT-6 Luna को 48.9%। Terminal-Bench 4.0 पर वह 39.2% देती है, जबकि Haiku 4.5 को 0.0% और GPT-6 Luna को 16.4%। बिना औज़ार वाले Humanity’s Last Exam पर वह 45.9% बताती है, जो पहले 10.2% था।

एक हाथ चार्ट प्रकारों वाले छपे काग़ज़ पर कैलकुलेटर चला रहा है
छोटे प्रॉम्प्ट पर इनपुट 1.00 से घटकर 0.10 डॉलर प्रति मिलियन टोकन हो गया। प्रतीकात्मक छवि। RDNE Stock project · pexels · Pexels License

Sonnet 5.5 हर पंक्ति में ऊपर बना हुआ है — OSWorld पर 83.9%, Terminal-Bench पर 70.6% — जो इस श्रेणी का मक़सद है, कोई कमी नहीं। दो ग्राहक उद्धृत हैं: Box ने Haiku 4.5 से 11 अंक ऊँचा परिणाम लगभग आधी प्रतीक्षा में बताया, और AlphaSense ने अपने Ask in Document मूल्यांकन पर 0.76 के मुक़ाबले 0.84।

छोटे मॉडल पर प्रयास का घुंडी

Haiku 5.5, Haiku श्रेणी का पहला मॉडल है जिसमें समायोज्य प्रयास-सेटिंग है, वह नियंत्रण जो बुलाने वाले को ख़र्च और मॉडल की मेहनत के बीच अदला-बदली करने देता है। अब तक यह बड़े Claude मॉडलों की विशेषता रही है।

जिस काम के लिए Haiku बेचा जाता है, उसके लिए यह सुनने से ज़्यादा मायने रखता है: वर्गीकरण, निष्कर्षण, मार्गनिर्धारण, एक ही तरह के दस्तावेज़ का दस लाख बार सारांश। घुंडी वाला सस्ता मॉडल हर अनुप्रयोग के बजाय हर क़तार के हिसाब से सधा जा सकता है।

डेटा सेंटर के पैच पैनल में लगे ऑप्टिकल फ़ाइबर केबल
मॉडल AWS, Google Cloud, Azure और Anthropic के अपने मंच पर चलता है। प्रतीकात्मक छवि। Brett Sayles · pexels · Pexels License

दाम की पाद-टिप्पणी

एक ब्योरा शीर्षक के आँकड़े को नरम करता है। Haiku 5.5 एक अद्यतन टोकनाइज़र इस्तेमाल करता है, और Anthropic कहती है कि यह प्रति कार्य अपने पूर्ववर्ती से कुछ अधिक टोकन खाता है। प्रति टोकन नापी गई कटौती ठीक-ठीक प्रति कार्य नापी गई कटौती नहीं है, और बचत का हिसाब लगाने वाले को अपने ही ट्रैफ़िक पर नापना चाहिए।

Anthropic यह भी कहती है कि मॉडल की साइबर सुरक्षा बंदिशें Haiku 4.5 से कड़ी पर Sonnet 5.5 से ढीली हैं, और पिछले संस्करण की तुलना में अलाइनमेंट सुधार बताती है, बिना उन पर कोई आँकड़ा दिए। संदर्भ-खिड़की का आकार नहीं बताया गया।

यह कहाँ चलता है, और आगे क्या देखना है

मॉडल अभी Amazon Web Services, Google Cloud और Microsoft Azure के साथ-साथ Anthropic के अपने मंच पर उपलब्ध है।

देखने लायक़ बात यह है कि छोटे मॉडलों का फ़र्श और नीचे जाता है या नहीं। Anthropic ने Haiku 5.5 को OpenAI के GPT-6 Luna वाले इलाक़े में रखा है, और उसी सप्ताह OpenAI ने जो निर्णय-एपीआई जारी किया वह 0.10 डॉलर प्रति मिलियन इनपुट टोकन लेता है, आउटपुट मुफ़्त। सस्ती श्रेणी में ही मात्रा है, और दोनों प्रयोगशालाएँ अब उसे मुनाफ़े के बजाय एक मोर्चे की तरह तय करती दिखती हैं।