वेट बाहर आ गए
रिफ़्लेक्शन ने 16 अक्टूबर को बीम के वेट हगिंग फ़ेस पर अपाचे 2.0 लाइसेंस के तहत जारी किए, मॉडल की घोषणा उनके बिना करने के ग्यारह दिन बाद। इस रिलीज़ में टोकनाइज़र, एक संदर्भ कार्यान्वयन, अंतिम परिणामों वाला मॉडल कार्ड और एक अलग तकनीकी सुरक्षा रिपोर्ट भी शामिल है। वेट बीएफ़16, एफ़पी8 और एनवीएफ़पी4 में आते हैं, साथ में सट्टा डिकोडिंग के लिए एक ड्राफ़्टर मॉडल।
बीम विशेषज्ञों का विरल मिश्रण है, कुल 501 अरब पैरामीटर और 23 अरब सक्रिय। अपाचे 2.0 व्यावसायिक उपयोग, बदलाव और पुनर्वितरण की अनुमति देता है, बशर्ते सूचना संबंधी शर्तें मानी जाएँ, और यह उसे खुले वेट के पैमाने के उदार सिरे पर रखता है, न कि उन विशेष लाइसेंसों के तहत जो कई प्रतिद्वंद्वी रिलीज़ के साथ आते हैं।
इसे चलाने के लिए क्या चाहिए
तीन परिशुद्धताएँ इसलिए हैं कि वे अलग-अलग हार्डवेयर पर बैठती हैं। उसी दिन छपी अमेज़न की अपनी पोस्ट बताती है कि बीम सेजमेकर जंपस्टार्ट के ज़रिए उत्तरी वर्जीनिया और ओहायो क्षेत्रों में उपलब्ध है, और एफ़पी8 के लिए एच100 वाले ml.p5.48xlarge, या एच200 वाले ml.p5e और ml.p5en इंस्टेंस की सिफ़ारिश करती है, तथा एनवीएफ़पी4 के लिए बी200 वाले ml.p6-b200.48xlarge की। बीएफ़16 को मेमोरी की वजह से कई नोड वाला इंतज़ाम चाहिए। एडब्ल्यूएस दस लाख टोकन की प्रभावी संदर्भ लंबाई का रिफ़्लेक्शन का आँकड़ा दोहराती है और उसका श्रेय रिफ़्लेक्शन को देती है।
क्लाउड से परे रिफ़्लेक्शन स्व-होस्टिंग और साझेदार एंडपॉइंट गिनाती है, साथ ही डेल और एचपीई के ज़रिए परिसर में और इंटरनेट से कटी तैनाती। यही वह इंतज़ाम है जो उद्यम और सरकारी ख़रीदार माँगते हैं, और जो सिर्फ़ एपीआई से मिलने वाला मॉडल किसी क़ीमत पर नहीं दे सकता।
प्रशिक्षण का बिल
पोस्ट के सबसे चौंकाने वाले आँकड़े मॉडल के बारे में नहीं, उसे बनाने की लागत के बारे में हैं। रिफ़्लेक्शन कहती है कि उसने सुदृढीकरण अधिगम प्रशिक्षण, मूल्यांकन और अपवर्जन परीक्षणों में मिलाकर क़रीब 1.3 अरब सैंडबॉक्स चलाए। सुदृढीकरण अधिगम की अंतिम दौड़ गूगल क्लाउड और एडब्ल्यूएस के 23 क्लस्टरों में फैले 8,83,006 वर्चुअल सीपीयू तक पहुँची।
नतीजे, और जो नहीं है
उपलब्धता वाली पोस्ट में अपनी कोई परिणाम तालिका नहीं है, वह पाठकों को मॉडल कार्ड पर भेजती है। वहाँ का हर आँकड़ा रिफ़्लेक्शन का है और रिफ़्लेक्शन ने ही बनाया है। 5 अक्टूबर की घोषणा के बाद से कंपनी का तर्क शिखर क्षमता नहीं, बल्कि अनुमान लगाने की दक्षता रहा है: उसने तब कहा था कि बीम जीएलएम 5.2 की बराबरी करता है और इसके लिए एक-चौथाई अनुमान कंप्यूट लेता है।
पोस्ट इसके बदले जो देती है वे क़िस्से हैं। एक उपयोगकर्ता की बनाई पगोडा में 12,600 टोकन और 117 सेकंड लगे। एक स्नेक कार्यान्वयन 2 मिनट 19.7 सेकंड में पूरा हुआ, जबकि तुलना वाली दौड़ में 4 मिनट 56.4 सेकंड। ये प्रदर्शन हैं, माप नहीं, और रिफ़्लेक्शन इन्हें वैसा ही बताती है।
क़ीमत पोस्ट में कहीं नहीं है। प्लेटफ़ॉर्म को सार्वजनिक बीटा के दौरान शुरू करने के लिए मुफ़्त बताया गया है, जिससे यह सवाल खुला रह जाता है कि ख़ुद चलाने के बजाय रिफ़्लेक्शन के ज़रिए इस्तेमाल करने पर क्या लागत आएगी।
आगे क्या देखना है
रिफ़्लेक्शन कहती है कि स्व-आसवन की विधियाँ, जो कंपनी के मुताबिक़ उपयोगकर्ता के अपने कामों पर टोकन दक्षता बढ़ाती हैं, “आने वाले दिनों” में आएँगी। भारी परीक्षा यह है कि अब जब कोई भी वेट उतारकर आज़मा सकता है, तो स्वतंत्र मूल्यांकनकर्ता मॉडल कार्ड के आँकड़े दोहराते हैं या नहीं — आख़िर वेट जारी करने का मतलब यही है।
