इंडोनेशिया ने AI से बनी सेक्शुअल इमेज के कारण एलन मस्क की कंपनी ग्रोक को ब्लॉक कर दिया
Jakarta [Indonesia] जकार्ता [इंडोनेशिया], CBS न्यूज़ ने बताया कि बिना सहमति के सेक्शुअल इमेज बनाने के लिए AI के गलत इस्तेमाल को लेकर दुनिया भर में बढ़ती चिंताओं के बीच, इंडोनेशिया, एलन मस्क की कंपनी xAI के बनाए आर्टिफिशियल इंटेलिजेंस चैटबॉट Grok का एक्सेस पूरी तरह से सस्पेंड करने वाला पहला देश बन गया है। यह फैसला उन रिपोर्ट्स के बाद आया है जिनमें कहा गया था कि Grok के इमेज-जेनरेशन फीचर ने यूज़र्स को सिंपल टेक्स्ट प्रॉम्प्ट का इस्तेमाल करके महिलाओं और बच्चों की तस्वीरों को सेक्शुअली अश्लील तस्वीरों में एडिट करने की इजाज़त दी थी। CBS न्यूज़ ने वेरिफाई किया कि टूल ने महिलाओं की तस्वीरों को बदलकर उन्हें बिकिनी या कम कपड़ों में दिखाने की रिक्वेस्ट को पूरा किया, जिसमें US की फर्स्ट लेडी मेलानिया ट्रंप जैसी जानी-मानी पब्लिक हस्तियों की तस्वीरें भी शामिल थीं।
इस कदम की घोषणा करते हुए, इंडोनेशिया के कम्युनिकेशन और डिजिटल मामलों के मंत्री मेउत्या हाफिद ने कहा कि सस्पेंशन का मकसद कमज़ोर ग्रुप्स की सुरक्षा करना है।
हाफिद ने कहा, "आर्टिफिशियल इंटेलिजेंस टेक्नोलॉजी का इस्तेमाल करके बनाए गए नकली पोर्नोग्राफिक कंटेंट के खतरों से महिलाओं, बच्चों और आम लोगों को बचाने के लिए, सरकार ने... Grok एप्लिकेशन का एक्सेस कुछ समय के लिए ब्लॉक कर दिया है।" "सरकार बिना सहमति के डीपफेक करने के तरीकों को डिजिटल स्पेस में नागरिकों के मानवाधिकारों, सम्मान और सुरक्षा का गंभीर उल्लंघन मानती है।" जबकि ग्रोक को दूसरे देशों में पाबंदियों का सामना करना पड़ा है, इंडोनेशिया पहला देश है जिसने पूरी तरह से एक्सेस देने से मना कर दिया है। दूसरी जगहों पर, प्लेटफॉर्म ने लोगों की नाराज़गी के बाद अपने कुछ फीचर्स सिर्फ़ पैसे देने वाले सब्सक्राइबर तक सीमित कर दिए हैं। CBS न्यूज़ ने बताया कि इस कदम की यूरोपियन अधिकारियों और डिजिटल अधिकारों के लिए काम करने वालों ने आलोचना की है, जिनका कहना है कि यह समस्या को ठीक से हल नहीं करता है।
मीडिया के सवालों के जवाब में, मस्क के स्टार्टअप xAI ने CBS न्यूज़ को एक छोटा सा बयान जारी किया, जिसमें कहा गया, "पुरानी मीडिया झूठ बोलती है," बिना और कोई सफाई दिए। यह जवाब कई आउटलेट्स को भेजा गया एक ऑटोमेटेड जवाब लग रहा था। भारत में, इलेक्ट्रॉनिक्स और इन्फॉर्मेशन टेक्नोलॉजी मिनिस्ट्री (MeitY) ने भी एक्शन लिया है। उसने X (पहले ट्विटर) को इन्फॉर्मेशन टेक्नोलॉजी एक्ट, 2000 के तहत कानूनी ड्यू डिलिजेंस की ज़िम्मेदारियों का पालन करने में नाकामी बताई है। मिनिस्ट्री ने प्लेटफॉर्म से एक एक्शन टेकन रिपोर्ट मांगी है ताकि Grok जैसे AI टूल्स के ज़रिए अश्लील और सेक्शुअली एक्सप्लिसिट कंटेंट की होस्टिंग, जेनरेशन और सर्कुलेशन को रोकने के लिए तुरंत कदम उठाए जा सकें।
भारत में ऑपरेशन के लिए X के चीफ कंप्लायंस ऑफिसर को लिखे अपने लेटर में, MeitY ने प्लेटफॉर्म को ऐसे कंटेंट की इजाज़त देने से सख्ती से बचने का निर्देश दिया है जो "अश्लील, पोर्नोग्राफिक, भद्दा, अभद्र, सेक्शुअली एक्सप्लिसिट, पीडोफिलिक, या किसी भी कानून के तहत प्रतिबंधित है।" लेटर में कहा गया है, "ऐसी ड्यू डिलिजेंस की ज़िम्मेदारियों का पालन न करने पर IT एक्ट के सेक्शन 79 के तहत लायबिलिटी से छूट खत्म हो जाएगी, और आप IT एक्ट और BNS सहित किसी भी कानून के तहत दी गई कार्रवाई के लिए भी ज़िम्मेदार होंगे।"
पूरे यूरोप में भी चिंताएं बढ़ गई हैं। UK के प्रधानमंत्री कीर स्टारमर ने गुरुवार को कहा कि वह चाहते हैं कि "सभी ऑप्शन खुले रहें," जिसमें ब्रिटेन में ग्रोक पर संभावित बैन भी शामिल है, क्योंकि अधिकारी AI से बने डीपफेक कंटेंट से होने वाले खतरों की जांच कर रहे हैं। अमेरिका में, रिपब्लिकन सीनेटर टेड क्रूज़ ने साफ़ AI से बनी तस्वीरों के फैलने की आलोचना की, और X पर एक पोस्ट में कहा कि "हाल ही में AI से बनी कई पोस्ट मंज़ूर नहीं हैं और मेरे कानून, अब कानून, टेक इट डाउन एक्ट, और साथ ही X के नियमों और शर्तों का साफ़ उल्लंघन हैं।" क्रूज़ ने कहा, "ये गैर-कानूनी तस्वीरें पीड़ितों की प्राइवेसी और इज़्ज़त के लिए एक गंभीर खतरा हैं। इन्हें हटा देना चाहिए और सुरक्षा उपाय करने चाहिए," साथ ही उन्होंने कहा कि X द्वारा ऐसे कंटेंट को हटाने के लिए उठाए गए कदमों से उन्हें हिम्मत मिली है।
