जाँच में क्या मिला
शुक्रवार को प्रकाशित ब्लूमबर्ग की एक जाँच बताती है कि पालंटिर के मावेन स्मार्ट सिस्टम पर हद से ज़्यादा भरोसा 28 फरवरी को ईरान के होरमोज़गान प्रांत के मिनाब में शजरे तैय्यबे प्राथमिक विद्यालय पर हुए हमले के कारणों में शामिल था। 150 से अधिक लोग मारे गए, जिनमें कम से कम 123 बच्चे थे, ब्लूमबर्ग ने बताया।
निष्कर्ष यह नहीं है कि सॉफ़्टवेयर ने स्वयं लक्ष्य चुना। निष्कर्ष यह है कि उसका उपयोग करने वालों ने मान लिया कि वह ऐसा काम कर रहा है जिसके लिए वह बनाया ही नहीं गया था। कर्मचारियों ने मावेन पर “ज़रूरत से ज़्यादा भरोसा” किया, जाँच पर थेप्रिंट के विवरण के अनुसार, यह अपेक्षा करते हुए कि सिस्टम पुरानी जानकारी और आंतरिक विसंगतियाँ चिह्नित करेगा, जिन्हें पहचानने का प्रशिक्षण उसे कभी नहीं मिला।
एक शृंखला, एक अकेली चूक नहीं
जाँचकर्ताओं ने एक के बाद एक टाली जा सकने वाली गलतियों की शृंखला बताई, न कि कोई एक ग़लत नतीजा। स्थल के आकलन में इस्तेमाल हुई उपग्रह तस्वीरें सात वर्षों से अद्यतन नहीं हुई थीं। स्थल का वर्गीकरण वर्षों पुराना था। बड़े पैमाने के हवाई अभियान के आदेश से निर्णय की समय-सीमा दब गई थी।
और जो मानवीय जाँच बाकी गलतियाँ पकड़ सकती थी, वह पतली पड़ चुकी थी। ब्लूमबर्ग के अनुसार पेंटागन की नागरिक-क्षति न्यूनीकरण टीमों का स्टाफ़ लगभग 90% घटा दिया गया था, और उन टीमों में से किसी ने हमले की योजना उसके क्रियान्वयन से पहले नहीं देखी।
गति ही असली तंत्र क्यों है
बाकी सब समझाने वाला ब्योरा समय है। मावेन उस आकलन को मिनटों में समेट देता है जो परंपरागत रूप से घंटों में कई चरणों से गुज़रता था। सेनाएँ इसे इसीलिए खरीदती हैं।
यही कारण है कि एक पुराना वर्गीकरण प्रक्षेपण के निर्णय तक जीवित रह सकता है। जब प्रक्रिया तेज़ होती है, तो वही चरण हटाए जाते हैं जो पहले घर्षण पैदा करते थे — और उसी घर्षण में यह संभावना थी कि कोई देख लेता कि उपग्रह चित्र सात साल पुराना है।
ब्लूमबर्ग द्वारा उद्धृत अमेरिकी अधिकारियों ने एआई उपकरणों पर अत्यधिक विश्वास और इस ग़लत धारणा का वर्णन किया कि उन उपकरणों में उनके निर्धारित दायरे से आगे की क्षमताएँ हैं। यह सॉफ़्टवेयर जितना ही प्रशिक्षण और सिद्धांत की विफलता का वर्णन है।
पालंटिर का कहना
पालंटिर ने ब्लूमबर्ग से कहा कि उसके सॉफ़्टवेयर की गलती का कोई प्रमाण नहीं है, एआई वीकली के सारांश के अनुसार। कंपनी ने तब से मावेन में अयोग्यता-चिह्न जोड़े हैं — यह बदलाव, सीधे शब्दों में, सिस्टम को ऐसी जानकारी चिह्नित करने का तरीका देता है जिससे कोई लक्ष्य आगे न बढ़े।
दोनों बातें सच हो सकती हैं। कोई उपकरण ठीक विनिर्देश के अनुसार काम कर सकता है और फिर भी किसी त्रासदी में योगदान दे सकता है, यदि उसके आसपास के लोगों को बताया गया हो, या उन्होंने मान लिया हो, कि वह कुछ ऐसा जाँच रहा है जो वह नहीं जाँचता।
आगे क्या देखना है
व्यावहारिक प्रश्न अब यह है कि ये अयोग्यता-चिह्न उत्पाद का बदलाव हैं या सिद्धांत का। कोई चेतावनी तभी काम आती है जब उसके उठने पर कार्यप्रवाह रुक जाए, और जब उस पर कार्रवाई करने वाला स्टाफ़ अब भी मौजूद हो। देखना होगा कि पेंटागन नागरिक-क्षति न्यूनीकरण की भर्ती बहाल करता है या नहीं, और क्या कोई प्रकाशित मानक एआई-सहायित लक्ष्य-चयन प्रणाली से यह बताने को कहता है कि वह जिन आँकड़ों पर विचार कर रही है वे कितने पुराने हैं।
