एलन मस्क के नेतृत्व वाले X ने वैश्विक नाराज़गी के बाद ग्रोक की आपत्तिजनक इमेज जनरेशन बंद की

New Delhi: दुनिया भर में भारी विरोध का सामना करने के बाद, एलन मस्क के X सोशल मीडिया प्लेटफॉर्म ने गुरुवार को Grok के आपत्तिजनक इमेज बनाने वाले फीचर को बंद कर दिया।

आर्टिफिशियल इंटेलिजेंस वाला चैटबॉट Grok अब महिलाओं की आपत्तिजनक इमेज नहीं बना पाएगा, भले ही यूजर का प्रीमियम अकाउंट हो या न हो।

प्लेटफॉर्म के सेफ्टी अकाउंट ने X पर एक पोस्ट में कहा, “हमने Grok अकाउंट को बिकिनी जैसे खुले कपड़ों में असली लोगों की इमेज एडिट करने से रोकने के लिए टेक्नोलॉजिकल उपाय लागू किए हैं। यह रोक सभी यूजर पर लागू होती है, जिसमें पेड सब्सक्राइबर भी शामिल हैं।”

xAI को Grok के “स्पाइसी मोड” फीचर को लेकर कई देशों से आलोचना का सामना करना पड़ा, जिससे यूजर “उसे बिकिनी में डालो” या “उसके कपड़े उतारो” जैसे आसान टेक्स्ट प्रॉम्प्ट का इस्तेमाल करके महिलाओं और बच्चों के सेक्शुअल डीपफेक बना सकते थे। कई देशों ने या तो चैटबॉट का एक्सेस ब्लॉक कर दिया या अपनी जांच शुरू कर दी। इलेक्ट्रॉनिक्स और इन्फॉर्मेशन टेक्नोलॉजी मिनिस्ट्री (MeitY) ने xAI से एक्शन-टेकन रिपोर्ट मांगी, और US स्टेट कैलिफ़ोर्निया के अटॉर्नी जनरल ने Grok के डेवलपर की जांच शुरू की।

इसके अलावा, 28 सिविल सोसाइटी ग्रुप्स के एक ग्रुप ने बुधवार को Apple और Google के CEO को ओपन लेटर भेजे, जिसमें उनसे सेक्शुअल इमेज में बढ़ोतरी के बीच Grok और X को अपने ऐप स्टोर से बैन करने की अपील की गई।

अब, X ने पेड यूज़र्स के लिए इमेज बनाने और एडिट करने की एबिलिटी को भी रिस्ट्रिक्ट कर दिया है। इससे पहले, Grok ने ऐसी इमेज बनाने की एबिलिटी सिर्फ़ पेड यूज़र्स तक ही लिमिट की थी।

X ने कहा, "X प्लेटफॉर्म पर Grok अकाउंट के ज़रिए इमेज बनाने और एडिट करने की एबिलिटी अब सिर्फ़ पेड सब्सक्राइबर्स के लिए अवेलेबल है," यह बताते हुए कि यह "यह पक्का करने में मदद करके प्रोटेक्शन की एक एक्स्ट्रा लेयर जोड़ता है कि जो लोग कानून या हमारी पॉलिसी को वायलेट करने के लिए Grok अकाउंट का गलत इस्तेमाल करने की कोशिश करते हैं, उन्हें ज़िम्मेदार ठहराया जा सकता है"।

प्लेटफॉर्म ने यह भी बताया कि वह चाइल्ड सेक्शुअल अब्यूज़ मटीरियल (CSAM) और बिना सहमति के न्यूडिटी सहित हाई-प्रायोरिटी वायलेटिव कंटेंट को हटाने के लिए एक्शन लेगा। नियमों का उल्लंघन करने वाले अकाउंट्स के खिलाफ सही कार्रवाई की जाएगी।

दिसंबर में, IT मिनिस्ट्री ने X से कहा था कि वह “लागू कानूनों का उल्लंघन करके पहले से बनाए गए या फैलाए गए सभी कंटेंट को बिना देर किए हटा दे या एक्सेस बंद कर दे”।

मिनिस्ट्री ने X को अपनी सर्विस की शर्तों और AI इस्तेमाल पर रोक लगाने और “मजबूत रोकथाम के उपाय” करने का भी निर्देश दिया था, जिसमें उन अकाउंट्स को सस्पेंड या बंद करना शामिल था जो Grok का इस्तेमाल करके महिलाओं और बच्चों की सेक्सुअली एक्सप्लिसिट तस्वीरें बनाते थे।

खबर है कि X ने भारत में Grok की इमेज बनाने की क्षमताओं का इस्तेमाल करके बनाए गए लगभग 3,500 अश्लील कंटेंट और सेक्सुअली एक्सप्लिसिट तस्वीरें हटा दीं। प्लेटफॉर्म ने लगभग 600 ऐसे यूज़र्स की भी पहचान की और उन्हें बैन कर दिया जिन्होंने AI चैटबॉट का गलत इस्तेमाल करके सेक्सुअली एक्सप्लिसिट तस्वीरें बनाई थीं।