Telegram issue: 4 मिलियन यूज़र्स डीपफेक नग्न तस्वीरें बनाने के लिए AI बॉट का उपयोग कर रहे

Delhi दिल्ली। एक नई रिपोर्ट में बताया गया है कि टेलीग्राम का इस्तेमाल हर महीने लाखों यूजर्स द्वारा लोगों की डीपफेक नग्न तस्वीरें बनाने और वितरित करने के लिए किया जा रहा है। पावेल डुरोव के स्वामित्व वाले इस प्लेटफॉर्म पर कम से कम 50 बॉट हैं, जिनका इस्तेमाल हर महीने 4 मिलियन से ज़्यादा यूजर्स महिलाओं की डीपफेक नग्न तस्वीरें बनाने के लिए कर रहे हैं, कुछ मामलों में तो किशोर लड़कियां भी। वायर्ड द्वारा किए गए एक अध्ययन के अनुसार, विश्लेषण किए गए 50 टेलीग्राम बॉट में से दो में हर महीने 4,00,000 लाख से ज़्यादा यूजर थे, जबकि 14 अन्य बॉट में हर महीने 1,00,000 से ज़्यादा सदस्य थे। इन बॉट को कम से कम 25 टेलीग्राम चैनल सपोर्ट करते हैं, जिनके तीन मिलियन से ज़्यादा सब्सक्राइबर हैं "जहां लोग न्यूज़फ़ीड-स्टाइल अपडेट सब्सक्राइब कर सकते हैं"।

ये चैनल सब्सक्राइबर्स को बॉट द्वारा पेश की जा रही नई सुविधाओं और उन्हें संचालित करने और तस्वीरें बनाने के लिए खरीदे जा सकने वाले विशेष टोकन के बारे में सचेत करते हैं। अध्ययन के अनुसार, ये टेलीग्राम चैनल ऐसे स्थान के रूप में भी काम करते हैं, जहां बॉट के यूजर कंपनी द्वारा हटाए जाने की स्थिति में नए बॉट के लिंक पा सकते हैं। इसके अलावा, अध्ययन में कहा गया है कि ये बॉट अलग-अलग क्षमताओं के साथ आते हैं। जबकि कुछ का दावा है कि वे फ़ोटो से 'कपड़े हटा सकते हैं', अन्य 'विभिन्न यौन क्रियाओं' में लोगों की डीपफेक छवियाँ बनाने का दावा करते हैं। फिर कुछ अन्य बॉट हैं जो उपयोगकर्ताओं को वांछित छवि बनाने के लिए कई छवियों को साझा करने की आवश्यकता होती है और इस प्रक्रिया में अपने AI मॉडल को प्रशिक्षित करते हैं। अध्ययन में यह भी दावा किया गया है कि जहाँ कुछ बॉट अपने नाम में 'नग्नता और महिलाओं के कपड़े हटाने' का उल्लेख करते हैं, वहीं अन्य अपने नाम या लैंडिंग पेज में स्पष्ट सामग्री नहीं देते हैं।

स्थिति को और भी बदतर बनाने वाली बात यह है कि टेलीग्राम का अनुशंसा इंजन डीपफेक नग्न छवियाँ बनाने वाले ऐसे किसी चैनल पर आने वाले उपयोगकर्ताओं के लिए 'समान चैनल' को हाइलाइट करता है। यह उपयोगकर्ताओं को छवियों और चैनलों के बीच बाउंस करने और उपयोग बढ़ाने में मदद करता है। इसके अतिरिक्त, टेलीग्राम बॉट डेवलपर्स को उपयोग की शर्तों को स्वीकार करने के लिए मजबूर कर सकता है, जो उपयोगकर्ताओं को बिना सहमति के व्यक्तियों की तस्वीरें अपलोड करने से रोक सकता है और इस प्रक्रिया में समस्या को रोकने में मदद कर सकता है। हालाँकि, अध्ययन में कहा गया है कि 'इन नियमों का बहुत कम या कोई प्रवर्तन नहीं होता है'। डीपफेक विशेषज्ञ हेनरी अजदर ने प्रकाशन को दिए एक बयान में कहा, "यह वास्तव में चिंताजनक है कि ये उपकरण - जो वास्तव में जीवन को बर्बाद कर रहे हैं और मुख्य रूप से युवा लड़कियों और महिलाओं के लिए एक बहुत ही भयावह परिदृश्य बना रहे हैं - अभी भी दुनिया के सबसे बड़े ऐप में से एक पर सर्फेस वेब पर आसानी से उपलब्ध हैं और उन्हें ढूंढा जा सकता है।"

हालांकि टेलीग्राम ने इस मामले पर कोई टिप्पणी नहीं की है, लेकिन इसने अपने प्लेटफ़ॉर्म से लगभग 75 ऐसे बॉट हटा दिए हैं।यह ध्यान देने योग्य है कि यह रिपोर्ट टेलीग्राम के संस्थापक को फ्रांस में पेरिस के बाहर एक हवाई अड्डे पर कथित तौर पर आपराधिक गतिविधि को सक्षम करने के लिए गिरफ्तार किए जाने के तुरंत बाद आई है, जिसमें प्लेटफ़ॉर्म पर बाल दुर्व्यवहार की छवियों और मादक पदार्थों की तस्करी की छवियों का वितरण शामिल है।