डीपसीक ने अपने सबसे सस्ते मॉडल को चलाने वाला इंजन खोल दिया, और उत्पादन सेवा के लिए ज़रूरी तीन चीज़ें 'शामिल नहीं' की सूची में हैं

क्या जारी हुआ

डीपसीक ने DeepInfer प्रकाशित किया है — वह इन्फ़रेंस ढाँचा जिसके बारे में कंपनी कहती है कि वह उसकी अपनी बड़े पैमाने की उत्पादन सेवाओं को चलाता है — अपाचे 2.0 लाइसेंस के तहत। रिपॉज़िटरी इस रिलीज़ को “बड़े पैमाने पर सेवा देने के लिए आवश्यक मुख्य सुविधाओं के साथ ऑफ़लाइन इन्फ़रेंस” बताती है।

इन्फ़रेंस भाषा मॉडल चलाने का कम चमकदार आधा हिस्सा है: वह सर्विंग सॉफ़्टवेयर जो प्रशिक्षित वज़नों के समूह को ऐसे एपीआई में बदलता है जो तेज़ और सस्ते में उत्तर दे। प्रयोगशालाएँ इसे शायद ही कभी खोलती हैं। डीपसीक ने अब अपना एक संस्करण खोला है, और जो ब्योरा मायने रखता है वह यह है कि कौन-सा संस्करण।

एक मॉडल, दो त्वरक

DeepInfer ठीक एक मॉडल का समर्थन करता है — DeepSeek-V4.1-Flash — और डिफ़ॉल्ट रूप से DeepSeek-V4.1-Flash-1017 चेकपॉइंट डाउनलोड करता है। यही वह मॉडल है जिसे डीपसीक ने इसी महीने अपने Flash एपीआई के पीछे लगाया था।

हार्डवेयर की सूची अधिक दिलचस्प पंक्ति है। DeepInfer एनवीडिया की SM100 जीपीयू और हुआवेई की Ascend 950 एनपीयू पर चलता है, और बिल्ड स्क्रिप्ट लक्ष्य के रूप में nvidia या ascend लेती है। आवश्यकताएँ उसी के अनुसार भिन्न हैं: एनवीडिया मार्ग के लिए CUDA 13, Ascend मार्ग के लिए हुआवेई का CANN 9.2। किसी चीनी प्रयोगशाला द्वारा एनवीडिया के नवीनतम के साथ-साथ एक घरेलू त्वरक के लिए प्रथम श्रेणी समर्थन देना यह बताता है कि वह अपने उपयोगकर्ताओं को कहाँ चलते हुए देखती है।

जो जानबूझकर नहीं है

रिपॉज़िटरी इस बात में असामान्य रूप से स्पष्ट है कि यह संस्करण और डीपसीक का आंतरिक संस्करण कितने अलग हैं। “पूर्ण इन्फ़रेंस सेवा के लिए आवश्यक (इस रिलीज़ में शामिल नहीं)” शीर्षक के नीचे तीन चीज़ें दी गई हैं: एक केवी कैश प्रणाली, प्रीफ़िल और डीकोड का पृथक्करण — जिसके बारे में लिखा है कि “आवश्यक इंजन कार्यक्षमता का अधिकांश भाग पहले ही लागू है” — और प्रीफ़िल तथा डीकोड दोनों के लिए डेटा-समानांतर प्रतिकृतियों के बीच लोड संतुलन।

ये पाद-टिप्पणियाँ नहीं हैं। ये वही परतें हैं जो एक इंजन को सेवा बनाती हैं, और बड़े परिनियोजन में लागत का बड़ा लाभ वहीं बैठता है। जो जारी हुआ है वह निष्पादन करने वाला हिस्सा है; जो हिस्सा मार्ग तय करता, कैश करता और संतुलन करता है, वह नहीं।

जो आँकड़े मौजूद नहीं

DeepInfer की README प्रीफ़िल और डीकोड के ग्राफ़ से जोड़ती है और शर्तें बताती है — “प्रीफ़िल के लिए 4 SM100 जीपीयू और डीकोड के लिए 64 पर मापा गया, प्रत्येक एक ही स्केल-अप डोमेन के भीतर” — पर पृष्ठ पर पाठ में कोई थ्रूपुट या विलंब का आँकड़ा नहीं है। सुविधाओं की सूची ज़रूर ठोस है: अटेंशन में डेटा समानांतरता, संतुलित संदर्भ समानांतरता, लोड संतुलन के साथ विशेषज्ञ समानांतरता, अतुल्यकालिक शेड्यूलिंग, बैच-अपरिवर्ती इन्फ़रेंस, नियतात्मक सैंपलिंग और संरचित आउटपुट।

डीपसीक अपने स्रोतों का श्रेय भी देती है। आभार खंड में लिखा है कि DeepInfer “मूल रूप से मुख्यतः vLLM पर बनाया गया था, जिसमें SGLang और TensorRT-LLM से अतिरिक्त प्रेरणा ली गई”। यानी यह उसी खुले सर्विंग ढाँचे की मज़बूत की गई शाखा है जिसे बाकी उद्योग पहले से उपयोग करता है, कोई अलग वंश नहीं।

समय

यह रिलीज़ उसी दिन आई जिस दिन अमेरिकी गृह सुरक्षा विभाग का आदेश फ़ेडरल रजिस्टर में छपा, जिसने संघीय नागरिक खरीद से डीपसीक के उत्पादों को बाहर किया और नागरिक एजेंसियों की आईटी से उन्हें हटाने की माँग की — उन तृतीय-पक्ष उत्पादों सहित जो “डीपसीक कार्यान्वयनों का उपयोग करके विकसित” हुए हैं। सूचना 19 अक्टूबर को दर्ज हुई और 20 अक्टूबर को प्रकाशित।

द डिकोडर, जिसने DeepInfer की रिलीज़ की पहले रिपोर्ट दी, लिखता है कि डीपसीक ने उद्देश्य यह बताया कि समुदाय को गणना लागत और ऊर्जा उपयोग घटाने में मदद मिले, और यह कि एक सहयोगी लाइब्रेरी, deepseek-recipe, आधिकारिक एपीआई के टोकन प्रबंधन की नकल करती है ताकि स्वयं-होस्ट किए गए परिनियोजन समान व्यवहार करें।

आगे क्या देखना है

दो बातें। क्या डीपसीक कैश, रूटिंग और संतुलन की लुप्त परतें जारी करती है, जिससे DeepInfer इंजन से परिनियोजन-योग्य ढाँचे में बदल जाए। और क्या डीपसीक के बाहर कोई Ascend 950 हार्डवेयर पर दोहराए गए आँकड़े प्रकाशित करता है: रिपॉज़िटरी में ठीक इसी के लिए एक स्वीप स्क्रिप्ट है, और अब तक कोई स्वतंत्र परिणाम सामने नहीं आया। 21 अक्टूबर की सुबह तक रिपॉज़िटरी पर लगभग 14,400 स्टार, 1,400 फ़ोर्क और 124 खुले पुल रिक्वेस्ट थे, और दो योगदानकर्ता सूचीबद्ध थे।