चार हफ़्ते, तीस से ऊपर मॉडल

एंथ्रोपिक ने गुरुवार को एक काम प्रकाशित किया जिसमें क्लॉड ने, कंपनी के क्लॉड साइंस ढाँचे के भीतर, जीवविज्ञान में इस्तेमाल होने वाले 30 से अधिक खुले डीप लर्निंग मॉडल दोबारा लिखे ताकि वे तेज़ चलें। कंपनी का कहना है कि संरचना-पूर्वानुमान और डिज़ाइन मॉडलों में औसत तेज़ी लगभग चार गुना रही, और अनुमान अनुकूलन का कोई पूर्व अनुभव न रखने वाले दो कर्मचारियों ने चार हफ़्ते से कुछ कम समय में इस काम की निगरानी की।

नतीजा 36 अनुकूलित पैकेज हैं, छह परिवारों में बँटे: 14 सह-वलन और संरचना-पूर्वानुमान के, सात जीनोमिक्स के, छह संरचना-निर्माण के, और तीन-तीन उल्टे वलन, हैलुसिनेशन तथा प्रोटीन भाषा मॉडल के।

क्या तेज़ हुआ और कितना

एंथ्रोपिक तीन मोड बताती है। समान परिणाम देने वाला सटीक मोड लगभग 1.6 गुना तेज़ चलता है। 13 मॉडलों वाला तेज़ मोड लगभग 4.1 गुना। कम मेमोरी वाला मोड लगभग 3.4 गुना। इसके नीचे जीपीयू कर्नेल का अपना सेट है जिसे कंपनी फ़्लैशपेयरफ़ॉर्मर कहती है और जो उसके अनुसार एनवीडिया की अपनी cuEquivariance रचनाओं से बेहतर है — त्रिकोण अटेंशन में 2.7 से 2.9 गुना और त्रिकोण गुणन में 1.7 से 3.2 गुना तेज़।

कंप्यूटर स्क्रीन पर प्रोटीन अणु का त्रिआयामी मॉडल
डिज़ाइनों के अंक कंप्यूटर से निकले, प्रयोगशाला में जाँच नहीं हुई। प्रतीकात्मक चित्र। MART PRODUCTION · pexels · Pexels License

ये सभी आँकड़े एंथ्रोपिक के अपने माप हैं, और सभी एनवीडिया एच100 जीपीयू पर लिए गए हैं। किसी बाहरी समूह ने इन्हें दोहराया नहीं है।

एक ही नोड पर बड़े अणु

व्यावहारिक बदलाव मेमोरी का है। कम मेमोरी वाला मोड एक ही एनवीडिया जीपीयू नोड को 10,000 से अधिक टोकन वाले जैव-आणविक तंत्रों का पूर्वानुमान करने देता है — अमीनो अम्ल, न्यूक्लियोटाइड और छोटे अणुओं व आयनों के परमाणु — और एंथ्रोपिक कहती है कि उसने 70,000 से बड़े तंत्रों पर भी अनुमान चलाया। कंपनी के अनुसार उसने मानव माइटोकॉन्ड्रियल कॉम्प्लेक्स I, TRiC चैपरोन कॉम्प्लेक्स, प्रोटियेसोम और जीवाणु राइबोसोम मोड़े।

वह एक प्रोटीन डिज़ाइन अभियान का भी वर्णन करती है जिसने पहले के कामों जैसे बंधन अंक हासिल किए, पर लगभग सौ गुना कम जीपीयू घंटों में और कुल मिलाकर करीब 150 डॉलर की लागत पर। एंथ्रोपिक साफ़ कहती है कि इन डिज़ाइनों की प्रयोगशाला में जाँच कभी नहीं हुई और अंक कंप्यूटर से निकाले गए हैं।

जो नहीं चला

रिपोर्ट असफलताएँ भी दर्ज करती है। बड़े विषाणु कैप्सिड के पूर्वानुमान एक ठोस गेंद में सिमट गए और उनके सटीकता अंक बहुत कम रहे, यूनाइट.एआई ने बताया। कोड भंडार एक संदर्भ संस्करण के रूप में जारी है, जिसे कंपनी के अनुसार वह बनाए नहीं रखेगी।

मशीन कक्ष में हरी स्थिति-बत्तियों वाला सर्वर रैक
सभी तेज़ी के माप एनवीडिया एच100 जीपीयू पर लिए गए। प्रतीकात्मक चित्र। panumas nikhomkhai · pexels · Pexels License

प्रयोगशाला में फ़ैसला करने की एक प्रतियोगिता

एंथ्रोपिक ने अनुकूलित कोड खोल दिया है और एडाप्टिव बायो के साथ प्रोटीन डिज़ाइन की एक प्रतियोगिता चला रही है, जिसमें आज की क्षमता की सीमा पर पाँच समस्याएँ हैं — प्रजातियों के बीच क्रॉस-रिएक्टिविटी, पीएच संवेदनशीलता, पेप्टाइड-एमएचसी विशिष्टता और जी-प्रोटीन युग्मित ग्राही लक्ष्य। पुरस्कार राशि में दस लाख डॉलर तक के क्लॉड क्रेडिट, मोडल के 2,50,000 डॉलर के कंप्यूट क्रेडिट, ट्विस्ट बायोसाइंस से डीएनए संश्लेषण और 5,000 से अधिक डिज़ाइनों की प्रयोगशाला जाँच शामिल है। यूनाइट.एआई के अनुसार प्रति टीम सीमा शैक्षणिक प्रविष्टियों के लिए 50,000 डॉलर और उद्योग के लिए 25,000 डॉलर है।

आगे क्या देखना है

आवेदन 24 सितंबर को बंद होंगे और नतीजे 15 दिसंबर को आने हैं। असली तारीख़ दूसरी है। जब तक डिज़ाइन किसी प्रयोगशाला की मेज़ से लौटकर नहीं आते, पूरा दावा उन अंकों पर टिका है जो एक कंप्यूटर ने ख़ुद को दिए।