गिरफ़्तारी रिपोर्ट क्या कहती है
26 सितंबर को फ़्लोरिडा के बोनिता स्प्रिंग्स की एक उपयोगकर्ता ने Anthropic के Claude में लिखा कि वह ली काउंटी शेरिफ़ कार्यालय पर गोलीबारी करेगी। गिरफ़्तारी रिपोर्ट के अनुसार अगले दिन उसी खाते से कहा गया कि उसने एक नई बंदूक ले ली है।
Anthropic का मंच कुछ विशेष वाक्यांशों और संभावित रूप से धमकी भरे विषय-वस्तु पर नज़र रखता है। जाँचकर्ताओं ने लिखा कि बयानों की गंभीरता को देखते हुए मामला एक मानव समीक्षा दल तक पहुँचाया गया, जिसने फिर उसे कानून प्रवर्तन को सौंप दिया। उप-अधिकारियों ने महिला की पहचान की, उसके घर गए और बिना किसी घटना के उसे हिरासत में लिया; शेरिफ़ कार्यालय के एक खुफ़िया जाँचकर्ता ने मामला संभाल लिया।
उस पर फ़्लोरिडा कानून के तहत लिखित हिंसा-धमकी का आरोप है, जो एक गंभीर अपराध है, और नवंबर में उसकी अदालती पेशी है। WINK News ने 30 सितंबर को गिरफ़्तारी की ख़बर दी; 5 अक्टूबर को मामला व्यापक रूप से उठा। शेरिफ़ कारमाइन मार्सेनो ने कहा कि उसने बाद में जाँचकर्ताओं को बताया कि वह चैटबॉट को डायरी की तरह इस्तेमाल करती थी।
वह नीति जो इसकी अनुमति देती है
इसमें से किसी के लिए वारंट की ज़रूरत नहीं पड़ी। Anthropic की प्रकाशित उपयोग-नीति अपने उत्पादों को हिंसा या भयादोहन को सुगम बनाने या बढ़ावा देने के लिए इस्तेमाल करने से मना करती है, और सरकारी अनुरोधों पर उसकी नीति कहती है कि मृत्यु या गंभीर शारीरिक चोट के ख़तरे वाली सीमित आपात स्थितियों में उपयोगकर्ता की जानकारी कानून प्रवर्तन को दी जा सकती है। कंपनी ने जाहिर तौर पर इसी प्रावधान के तहत काम किया। WINK News ने Anthropic से पूछा कि उसके सुरक्षा-उपाय धमकियों को कैसे संभालते हैं और वह जानकारी कब साझा करती है; रिपोर्ट में कोई उत्तर दर्ज नहीं है।
मार्सेनो ने इस मामले से गुमनामी पर बात की और WINK News से कहा कि एआई चैट और खोज का इस्तेमाल करने वाले कभी वास्तव में गुमनाम नहीं होते। उसी रिपोर्ट में उद्धृत एक सेवानिवृत्त एफ़बीआई एजेंट ने कहा कि अदालतें अब भी तय कर रही हैं कि एआई से जुड़ी धमकियों को कैसे देखा जाए।
तंत्र नया नहीं है — बड़े मंच वर्षों से पुलिस को धमकियों की सूचना देते आए हैं, और अमेरिकी कानून पहले से ही प्रदाताओं से कुछ श्रेणियों की सामग्री की सूचना माँगता है। नया है वह सतह। चैटबॉट एक ऐसी लेखनी को न्योता देता है जो लोग सार्वजनिक पोस्ट में नहीं करते: बेरोक, किसी को संबोधित नहीं, किसी सार्वजनिक फ़ीड से ज़्यादा एक निजी नोटबुक जैसी।
जो तय नहीं हुआ है
इस मामले की दो बातें फिर लौटेंगी। पहली है यह फ़ासला कि चैटबॉट कितना निजी लगता है और वास्तव में कितना निजी है। WINK News द्वारा उद्धृत Florida Gulf Coast University की एक प्राध्यापक ने कहा कि लोग एआई की ओर इसलिए भी मुड़ते हैं क्योंकि मशीन उन्हें नहीं आँकती, और चेतावनी सीधे शब्दों में दी: एआई आपकी सबसे अच्छी दोस्त नहीं है।
दूसरी है कसौटी। Anthropic के सुरक्षा-उपायों ने वाक्यांश चिह्नित किए; एक मानव दल ने उन्हें विश्वसनीय माना; शेरिफ़ कार्यालय सहमत हुआ। हर चरण में किसी ने केवल पाठ से इरादा आँका — बिना स्वर, बिना संदर्भ और बिना व्यक्ति के सामने हुए। फ़्लोरिडा का लिखित-धमकी कानून उन संदेशों पर लागू होता है जो इस तरह भेजे जाएँ कि कोई और उन्हें देख सके, और किसी मॉडल के साथ निजी बातचीत इस कसौटी पर खरी उतरती है या नहीं — यही वह सवाल है जिसका उत्तर किसी अदालत ने नहीं दिया।
नवंबर की सुनवाई पहली जगह है जहाँ वह उत्तर मिल सकता है।
