न्यूयॉर्क का कहना है कि टिकटॉक ने कुछ किशोरों को एल्गोरिद्म रीसेट करने का ऐसा बटन दिया जो कुछ भी रीसेट नहीं करता था

शिकायत में क्या आरोप है

टिकटॉक के खिलाफ न्यूयॉर्क की एक शिकायत, जिसे बुधवार 7 अक्टूबर को सील से मुक्त किया गया, आरोप लगाती है कि कंपनी ने उन हज़ारों उपयोगकर्ताओं पर प्रयोग किए जो उसकी एक सुरक्षा सुविधा चालू करने की कोशिश कर रहे थे, और उनमें से कुछ को ऐसा संस्करण दिया जो काम ही नहीं करता था।

यह सुविधा है Algo Refresh, एक नियंत्रण जो उपयोगकर्ता की सिफारिशें रीसेट करने वाला था ताकि वह अवांछित या संभावित रूप से हानिकारक सामग्री की धारा से बाहर निकल सके। शिकायत के अनुसार, जिसे रॉयटर्स ने रिपोर्ट किया, जिन उपयोगकर्ताओं को निष्क्रिय संस्करण मिला, उन्होंने माना कि रीसेट हो गया है। उनकी फीड नहीं बदली। जिस समूह को काम करने वाला संस्करण मिला, उसकी फीड बदल गई।

शिकायत कहती है कि ये परीक्षण 2023 में बार-बार चलाए गए, और दोनों समूहों की तुलना इस आधार पर की गई कि लोग साइट पर कितना समय बिताते हैं और विज्ञापन राजस्व पर क्या असर पड़ता है। परीक्षण में वे बच्चे और किशोर भी शामिल थे जिन्होंने स्वयं यह सुविधा चुनी थी।

भीतर से आई आपत्ति

टिकटॉक की डिजिटल वेल बीइंग टीम के एक प्रोडक्ट मैनेजर ने एक आंतरिक चैट में आपत्ति जताई, जिसे दस्तावेज़ में उद्धृत किया गया है। उन्होंने लिखा कि यह सुविधा “एल्गोरिद्म की पारदर्शिता और नियंत्रण के बारे में है” — और “एक प्लेसीबो समूह उससे पूरी तरह टकराता है”।

शिकायत उसी नियंत्रण पर एक दूसरा आरोप भी लगाती है: कि टिकटॉक ने उपयोगकर्ताओं से कहा कि Algo Refresh उनके सिफारिश एल्गोरिद्म को रीसेट कर देगा, जबकि बदलाव वास्तव में केवल अस्थायी था।

मुकदमे का एक अलग आरोप, जिसे पहले ब्लूमबर्ग ने रिपोर्ट किया था, यह है कि टिकटॉक ने कुछ उपयोगकर्ताओं के लिए हानिकारक सामग्री के संपर्क को सीमित करने वाली सुरक्षा सुविधाएं बेतरतीब ढंग से बंद कर दीं। शिकायत कहती है कि उस परीक्षण समूह में शामिल न्यूयॉर्क के एक किशोर लड़के ने आत्महत्या कर ली, और आंतरिक समीक्षाओं में पाया गया कि उसे आत्म-क्षति और आत्महत्या से जुड़ी बड़ी मात्रा में सामग्री दिखाई गई थी।

मामला कहां खड़ा है

अटॉर्नी जनरल लेटिशिया जेम्स ने 2024 में टिकटॉक पर मुकदमा किया था। ये आरोप अगस्त के अंत में दाखिल शिकायत के एक संशोधित संस्करण में जोड़े गए थे, जो तब तक सील रहा जब तक एक न्यायाधीश ने उसे खोलने का आदेश नहीं दिया। यह मामला अमेरिकी राज्यों द्वारा दायर दो दर्जन से अधिक मुकदमों में से एक है, जिनमें प्लेटफॉर्म पर बच्चों के लिए लतग्रस्त करने वाली सेवा डिज़ाइन करने और सुरक्षा उपकरणों के बारे में उपयोगकर्ताओं को गुमराह करने का आरोप है।

सितंबर में टिकटॉक ने पहला राज्य मुकदमा निपटाया जो सुनवाई के लिए तय था, और अलबामा को 30 करोड़ डॉलर तक देने तथा उस राज्य में किशोरों के लिए प्लेटफॉर्म का व्यवहार बदलने पर सहमति जताई।

टिकटॉक ने अदालती दस्तावेज़ों में न्यूयॉर्क के आरोपों से मोटे तौर पर इनकार किया है और कहता है कि युवा उपयोगकर्ताओं की सुरक्षा उसकी प्राथमिकता है। एक प्रवक्ता ने रॉयटर्स से कहा कि कंपनी “लगातार सुधार करती है” और, अधिकांश कंपनियों की तरह, नियमित रूप से सुविधाओं का परीक्षण करती है ताकि समझ सके कि वे वास्तविक दुनिया में कैसे काम करती हैं। प्रवक्ता ने कहा कि आरोप Algo Refresh के काम करने के तरीके को गलत ढंग से पेश करते हैं।

टिकटॉक से आगे यह क्यों मायने रखता है

यह सब एक दीवानी शिकायत के आरोप हैं, सिद्ध तथ्य नहीं। पर जो आरोप है वह ठोस है और किसी एक कंपनी तक सीमित नहीं: कि उपयोगकर्ताओं को सिफारिश प्रणाली संचालित करने के लिए दिया गया एक नियंत्रण स्वयं एक प्रयोग का विषय बन गया, जिसका परिणाम सत्र की अवधि और विज्ञापन राजस्व में मापा गया।

प्लेटफॉर्म लगभग हर चीज़ का ए/बी परीक्षण करते हैं, और उस मशीन में सुरक्षा नियंत्रण भी एक सुविधा भर है। शिकायत का तर्क यह है कि वह नहीं है: एक बार जब कोई कंपनी उपयोगकर्ता से कह देती है कि यह बटन एल्गोरिद्म रीसेट करता है, तो कुछ न करने वाला बटन भेजना उत्पाद के बारे में एक दावा है, उसका माप नहीं।

आगे क्या देखना है

क्या अदालत प्लेसीबो संबंधी आरोपों को आगे बढ़ने देती है, और क्या अन्य राज्यों के मुकदमे भी वही तर्क अपनाते हैं। अलबामा के समझौते ने दिखाया कि सुनवाई की तारीख का क्या मोल है; इस आरोप के साथ दूसरा समझौता उससे अधिक मोल रखेगा।