केंद्र ने AI से चलने वाले अश्लील, न्यूड और अभद्र कंटेंट को लेकर X पर कार्रवाई की

नई दिल्ली : इलेक्ट्रॉनिक्स और इन्फॉर्मेशन टेक्नोलॉजी मंत्रालय (MeitY) ने शुक्रवार को X Corp पर अपने प्लेटफॉर्म पर अश्लील, न्यूड और अभद्र कंटेंट बनने और सर्कुलेशन को रोकने में नाकाम रहने के लिए कार्रवाई की।

सरकार ने X Corp को 72 घंटे के अंदर "'Grok' और xAl की दूसरी सर्विसेज़ जैसी AI-बेस्ड सर्विसेज़ के गलत इस्तेमाल से अश्लील, न्यूड, अभद्र और साफ़ कंटेंट की होस्टिंग, बनने, पब्लिकेशन या ट्रांसमिशन, शेयरिंग या अपलोडिंग को रोकने के लिए तुरंत कम्प्लायंस की दिशा में" एक एक्शन टेकन रिपोर्ट (ATR) भेजने का निर्देश दिया है।

निर्देश में कहा गया है कि "इन ज़रूरतों का पालन न करने को गंभीरता से लिया जाएगा और इसके नतीजे में आपके प्लेटफॉर्म, उसके ज़िम्मेदार अधिकारियों और प्लेटफॉर्म पर उन यूज़र्स के खिलाफ़ सख्त कानूनी नतीजे हो सकते हैं जो बिना किसी और नोटिस के, IT एक्ट, IT रूल्स, BNSS, BNS और दूसरे लागू कानूनों के तहत कानून का उल्लंघन करते हैं।"

मंत्रालय ने X को गैर-कानूनी कंटेंट बनने से रोकने के लिए Grok के टेक्निकल और गवर्नेंस फ्रेमवर्क का पूरी तरह से रिव्यू करने का निर्देश दिया।

उसने कहा कि ग्रोक को नियम तोड़ने वालों को सस्पेंड और टर्मिनेट करने समेत सख्त यूज़र पॉलिसी लागू करनी चाहिए। उसने कहा कि सभी आपत्तिजनक कंटेंट को सबूतों से छेड़छाड़ किए बिना तुरंत हटा दिया जाना चाहिए।

MeitY ने कहा कि नियमों का पालन न करने पर IT एक्ट के सेक्शन 79 के तहत सेफ हार्बर खत्म हो सकता है और BNS, इंडिसेंट रिप्रेजेंटेशन ऑफ विमेन एक्ट और प्रोटेक्शन ऑफ चिल्ड्रन फ्रॉम सेक्सुअल ऑफेंस एक्ट समेत कई कानूनों के तहत सज़ा हो सकती है।

X को लिखे लेटर में, मिनिस्ट्री ने कहा कि उसका मानना ​​है कि इन्फॉर्मेशन टेक्नोलॉजी एक्ट के तहत रेगुलेटरी नियमों का उसके प्लेटफॉर्म पर ठीक से पालन नहीं किया जाता है, जो अश्लील, अभद्र, भद्दे, पोर्नोग्राफिक, पीडोफिलिक, या किसी और तरह से गैर-कानूनी या नुकसान पहुंचाने वाले कंटेंट के संबंध में है, जो मौजूदा कानूनों का उल्लंघन कर सकते हैं।

लेटर में बताया गया है कि ऊपर बताए गए कामों और गलतियों को बहुत चिंता की बात माना जा रहा है, क्योंकि इनसे महिलाओं और बच्चों की इज्ज़त, प्राइवेसी और सुरक्षा का उल्लंघन होता है, डिजिटल स्पेस में सेक्सुअल हैरेसमेंट और शोषण को नॉर्मल बनाया जाता है, और भारत में काम करने वाले इंटरमीडियरीज़ पर लागू कानूनी ड्यू डिलिजेंस फ्रेमवर्क को कमज़ोर किया जाता है।

लेटर में यह भी कहा गया है कि यह खास तौर पर देखा गया है कि X द्वारा डेवलप की गई और X प्लेटफॉर्म पर इंटीग्रेट और उपलब्ध कराई गई सर्विस Grok AI का गलत इस्तेमाल यूज़र्स अकाउंट बनाने के लिए कर रहे हैं, ताकि महिलाओं की गंदी या भद्दी इमेज या वीडियो को होस्ट, जेनरेट, पब्लिश या शेयर किया जा सके, ताकि उन्हें गलत तरीके से बदनाम किया जा सके।

ज़रूरी बात यह है कि यह सिर्फ़ नकली अकाउंट बनाने तक ही सीमित नहीं है, बल्कि उन महिलाओं को भी टारगेट करता है जो प्रॉम्प्ट, इमेज मैनिपुलेशन और सिंथेटिक आउटपुट के ज़रिए अपनी इमेज या वीडियो होस्ट या पब्लिश करती हैं। लेटर में कहा गया है कि इस तरह का व्यवहार प्लेटफॉर्म-लेवल के सेफगार्ड और एनफोर्समेंट मैकेनिज्म की गंभीर नाकामी को दिखाता है, और लागू कानूनों का उल्लंघन करते हुए आर्टिफिशियल इंटेलिजेंस टेक्नोलॉजी का बड़ा गलत इस्तेमाल है।

नोटिस की एक कॉपी खास मंत्रालयों, कमीशन और राज्य अधिकारियों को भी भेजी गई है, जिससे AI के ज़रिए बढ़ावा दी जा रही अश्लीलता पर मिलकर कार्रवाई करने का संकेत मिलता है।