Twitter अश्लील कंटेंट तस्वीरों के विवाद को लेकर 600 अकाउंट डिलीट करेगा

नई दिल्ली: सरकारी सूत्रों के अनुसार, सोशल मीडिया प्लेटफॉर्म X ने अपनी गलती मान ली है और अपने कंटेंट मॉडरेशन स्टैंडर्ड में कमियों को स्वीकार किया है। उसने भारत सरकार को बताया है कि वह भारतीय कानून का पूरी तरह से पालन करेगा और नियमों के अनुसार काम करेगा।

यह मामला तब सामने आया जब प्लेटफॉर्म पर अश्लील और यौन रूप से आपत्तिजनक कंटेंट के सर्कुलेशन को लेकर चिंता जताई गई, जिसमें कथित तौर पर इसके आर्टिफिशियल इंटेलिजेंस टूल, ग्रोक के ज़रिए बनाया या फैलाया गया मटेरियल भी शामिल था।

सरकारी सूत्रों के अनुसार, लगभग 3,500 अश्लील कंटेंट को ब्लॉक कर दिया गया है, और 600 से ज़्यादा अकाउंट डिलीट कर दिए गए हैं। प्लेटफॉर्म ने यह भी आश्वासन दिया है कि वह भविष्य में अश्लील तस्वीरों की अनुमति नहीं देगा।

पिछले हफ्ते इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय (MeitY) ने X कॉर्प (पहले ट्विटर) के चीफ कंप्लायंस ऑफिसर, इंडिया ऑपरेशंस को एक नोटिस भेजा था और 72 घंटे के भीतर तत्काल अनुपालन या ग्रोक और x AI की अन्य सेवाओं जैसी AI आधारित सेवाओं के दुरुपयोग के माध्यम से अश्लील, नग्न, अभद्र और यौन रूप से आपत्तिजनक कंटेंट को होस्ट करने, बनाने, प्रकाशित करने, प्रसारित करने, साझा करने या अपलोड करने की रोकथाम के लिए एक विस्तृत कार्रवाई रिपोर्ट मांगी थी।

इस बीच, राज्यसभा सांसद प्रियंका चतुर्वेदी ने सोशल मीडिया प्लेटफॉर्म X की आलोचना की कि उसने ग्रोक के माध्यम से समस्याग्रस्त और यौन रूप से आपत्तिजनक इमेज बनाने पर पूरी तरह से रोक लगाने के बजाय इसे केवल पेड यूजर्स तक सीमित कर दिया है।

अपने X पोस्ट में, उन्होंने आरोप लगाया कि यह कदम प्रभावी रूप से महिलाओं और बच्चों की तस्वीरों के अनधिकृत दुरुपयोग की अनुमति देता है, जिससे उन्हें जोखिम में डाला जा रहा है। उन्होंने कहा कि प्लेटफॉर्म रचनात्मकता और नवाचार की आड़ में निंदनीय व्यवहार से पैसे कमा रहा है, इसे 'AI का शर्मनाक इस्तेमाल' बताया।

उन्होंने X पर पोस्ट किया, “यह देखना दुर्भाग्यपूर्ण है कि ग्रोक के माध्यम से समस्याग्रस्त, यौन रूप से आपत्तिजनक इमेज बनाने पर पूरी तरह से रोक लगाने के बजाय, प्लेटफॉर्म ने इसके इस्तेमाल को पेड यूजर्स तक सीमित कर दिया है। तो अगर आप प्लेटफॉर्म को पैसे दिखाते हैं, तो उन्हें गाइडलाइंस या सुरक्षा उपायों की परवाह नहीं होगी। इसका प्रभावी रूप से मतलब है कि महिलाओं या बच्चों की तस्वीरों का विकृत लोगों द्वारा अनधिकृत दुरुपयोग किया जा सकता है। यह महिलाओं के लिए एक सुरक्षित जगह नहीं बना रहा है, बल्कि @XCorpIndia रचनात्मकता और नवाचार की आड़ में इस निंदनीय विकृत व्यवहार से पैसे कमा रहा है। AI का शर्मनाक इस्तेमाल।”

इससे पहले 1 जनवरी को, प्रियंका चतुर्वेदी ने केंद्रीय इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्री अश्विनी वैष्णव को पत्र लिखकर सोशल मीडिया प्लेटफॉर्म पर फर्जी अकाउंट का इस्तेमाल करके महिलाओं की आपत्तिजनक तस्वीरें पोस्ट करने के लिए आर्टिफिशियल इंटेलिजेंस टूल के कथित दुरुपयोग पर चिंता जताई थी। उन्होंने कहा कि ऐसी हरकतें महिलाओं की प्राइवेसी का गंभीर उल्लंघन हैं और उन्होंने केंद्र से उनके अधिकारों की रक्षा के लिए तुरंत कदम उठाने का आग्रह किया।

पत्र में चतुर्वेदी ने लिखा, "मैं सोशल मीडिया, खासकर X पर सामने आए एक नए ट्रेंड पर आपका ध्यान और तुरंत दखल दिलाना चाहती हूं, जिसमें उनके AI Grok फीचर का गलत इस्तेमाल करके पुरुष फेक अकाउंट से महिलाओं की तस्वीरें पोस्ट कर रहे हैं और Grok को प्रॉम्प्ट भेजकर उनके कपड़ों को कम करने और उन्हें सेक्शुअलाइज़ करने की कोशिश कर रहे हैं। यह सिर्फ फेक अकाउंट से तस्वीरें शेयर करने तक ही सीमित नहीं है, बल्कि उन महिलाओं को भी टारगेट किया जा रहा है जो अपनी तस्वीरें पोस्ट करती हैं। यह गलत है और AI फंक्शन का घोर दुरुपयोग है।"

उन्होंने आगे कहा, "इससे भी बुरी बात यह है कि Grok ऐसी रिक्वेस्ट मानकर इस व्यवहार को बढ़ावा दे रहा है। यह महिलाओं के प्राइवेसी के अधिकार का उल्लंघन है, साथ ही उनकी तस्वीरों का बिना इजाज़त इस्तेमाल है, जो न सिर्फ अनैतिक है बल्कि आपराधिक भी है।"

प्रियंका चतुर्वेदी ने इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्री से सोशल मीडिया प्लेटफॉर्म X के खिलाफ सख्त कार्रवाई करने और AI-आधारित टूल्स में सुरक्षा उपाय लागू करने का भी आग्रह किया ताकि महिलाओं की ऑनलाइन सुरक्षा सुनिश्चित की जा सके।