AI पोर्नोग्राफी का खतरा: इंडोनेशिया ने 'Grok, पर लगाई रोक

Jakarta: इंडोनेशिया के कम्युनिकेशन और डिजिटल मामलों के मंत्री ने कहा कि AI से बने पोर्नोग्राफिक कंटेंट की चिंताओं के कारण इंडोनेशिया ने शनिवार को एलन मस्क के AI चैटबॉट ग्रोक को सस्पेंड कर दिया। ग्रोक को दुनिया भर में तब आलोचना का सामना करना पड़ा जब यह सामने आया कि इसके इमेज बनाने वाले फीचर ने यूज़र्स को आसान टेक्स्ट प्रॉम्प्ट का इस्तेमाल करके महिलाओं और बच्चों की तस्वीरों को सेक्शुअलाइज़ करने की इजाज़त दी। इंडोनेशिया पहला देश है जिसने इस टूल के सभी एक्सेस पर रोक लगा दी है, जिसे विरोध के बाद दूसरी जगहों पर सिर्फ़ पैसे देने वाले सब्सक्राइबर तक ही सीमित कर दिया गया है।

कम्युनिकेशन और डिजिटल मामलों के मंत्री मेउत्या हाफ़िद ने एक बयान में कहा, "आर्टिफिशियल इंटेलिजेंस टेक्नोलॉजी का इस्तेमाल करके बनाए गए नकली पोर्नोग्राफिक कंटेंट के खतरों से महिलाओं, बच्चों और आम लोगों को बचाने के लिए, सरकार ने... ग्रोक एप्लिकेशन के एक्सेस को कुछ समय के लिए ब्लॉक कर दिया है।" "सरकार बिना सहमति के डीपफेक प्रैक्टिस को डिजिटल स्पेस में नागरिकों के मानवाधिकारों, सम्मान और सुरक्षा का गंभीर उल्लंघन मानती है।"

मंत्रालय ने इस मुद्दे पर सफाई मांगने के लिए सोशल मीडिया प्लेटफॉर्म X के प्रतिनिधियों को भी बुलाया है। जकार्ता में AFP के पत्रकारों के मुताबिक, शनिवार शाम को Grok X अकाउंट अभी भी एक्टिव था और बहासा इंडोनेशिया समेत कई देशों में सवालों के जवाब दे रहा था। मस्क के स्टार्टअप xAI, जिसने Grok को डेवलप किया था, पर्सनली कमेंट के लिए तुरंत अवेलेबल नहीं था। यूरोपियन अधिकारियों और टेक कैंपेनर्स ने Grok के फीचर्स को सिर्फ पेड सब्सक्राइबर्स तक लिमिट करने के कदम की बुराई की, और कहा कि यह सेक्सुअली एक्सप्लिसिट डीपफेक कंटेंट के बारे में चिंताओं को दूर करने में फेल रहा। मस्क ने पिछले हफ्ते एक्सप्लिसिट इमेज के बारे में एक पोस्ट के जवाब में कहा था कि जो कोई भी Grok का इस्तेमाल "गैर-कानूनी कंटेंट बनाने के लिए करेगा, उसे वही नतीजे भुगतने होंगे जो गैर-कानूनी कंटेंट अपलोड करने पर भुगतने पड़ते हैं।"