मलेशिया, इंडोनेशिया AI डीपफेक को लेकर मस्क के ग्रोक को ब्लॉक करने वाले पहले देश बने

KUALA LUMPUR कुआलालंपुर: मलेशिया और इंडोनेशिया, एलन मस्क की xAI द्वारा डेवलप किए गए आर्टिफिशियल इंटेलिजेंस चैटबॉट ग्रोक को ब्लॉक करने वाले पहले देश बन गए हैं, क्योंकि अधिकारियों ने कहा कि इसका इस्तेमाल सेक्शुअली एक्सप्लिसिट और बिना सहमति वाली इमेज बनाने के लिए किया जा रहा था।

ये कदम जेनरेटिव AI टूल्स को लेकर बढ़ती ग्लोबल चिंता को दिखाते हैं, जो रियलिस्टिक इमेज, आवाज़ और टेक्स्ट बना सकते हैं, जबकि मौजूदा सुरक्षा उपाय उनके गलत इस्तेमाल को रोकने में नाकाम हैं। ग्रोक चैटबॉट, जिसे मस्क के सोशल मीडिया प्लेटफॉर्म X के ज़रिए एक्सेस किया जाता है, पर छेड़छाड़ की गई इमेज बनाने के लिए आलोचना की गई है, जिसमें बिकनी में महिलाओं या सेक्शुअली एक्सप्लिसिट पोज़ वाली तस्वीरें, साथ ही बच्चों से जुड़ी तस्वीरें भी शामिल हैं।

दोनों दक्षिण-पूर्वी एशियाई देशों के रेगुलेटर्स ने कहा कि मौजूदा कंट्रोल नकली पोर्नोग्राफिक कंटेंट, खासकर महिलाओं और नाबालिगों से जुड़े कंटेंट को बनने और फैलने से नहीं रोक पा रहे हैं। इंडोनेशिया की सरकार ने शनिवार को ग्रोक तक एक्सेस को अस्थायी रूप से ब्लॉक कर दिया, जिसके बाद रविवार को मलेशिया ने भी ऐसा ही किया।

इंडोनेशिया की संचार और डिजिटल मामलों की मंत्री मेउट्या हाफिद ने शनिवार को एक बयान में कहा, "सरकार बिना सहमति वाले सेक्शुअल डीपफेक को डिजिटल स्पेस में मानवाधिकारों, गरिमा और नागरिकों की सुरक्षा का गंभीर उल्लंघन मानती है।"

मंत्रालय ने कहा कि यह कदम महिलाओं, बच्चों और बड़े समुदाय को AI का इस्तेमाल करके बनाए गए नकली पोर्नोग्राफिक कंटेंट से बचाने के लिए उठाया गया है।

डिजिटल स्पेस सुपरविजन के डायरेक्टर जनरल अलेक्जेंडर साबर ने एक अलग बयान में कहा कि शुरुआती जांच में पता चला है कि ग्रोक में यूजर्स को इंडोनेशियाई निवासियों की असली तस्वीरों के आधार पर पोर्नोग्राफिक कंटेंट बनाने और बांटने से रोकने के लिए प्रभावी सुरक्षा उपायों की कमी है। उन्होंने कहा कि ऐसी प्रथाओं से प्राइवेसी और इमेज अधिकारों का उल्लंघन होने का खतरा है, जब तस्वीरों के साथ छेड़छाड़ की जाती है या बिना सहमति के शेयर की जाती हैं, जिससे मनोवैज्ञानिक, सामाजिक और प्रतिष्ठा को नुकसान होता है।

कुआलालंपुर में, मलेशियाई संचार और मल्टीमीडिया आयोग ने रविवार को ग्रोक पर अस्थायी प्रतिबंध लगाने का आदेश दिया, क्योंकि उसने कहा कि इस टूल का "बार-बार गलत इस्तेमाल" अश्लील, सेक्शुअली एक्सप्लिसिट और बिना सहमति वाली छेड़छाड़ की गई इमेज बनाने के लिए किया जा रहा था, जिसमें महिलाओं और नाबालिगों से जुड़ा कंटेंट भी शामिल था।

रेगुलेटर ने कहा कि इस महीने X Corp. और xAI को मजबूत सुरक्षा उपायों की मांग करते हुए जारी किए गए नोटिसों के जवाब मुख्य रूप से यूजर रिपोर्टिंग मैकेनिज्म पर आधारित थे।

उन्होंने कहा, "यह प्रतिबंध एक निवारक और आनुपातिक उपाय के रूप में लगाया गया है, जबकि कानूनी और नियामक प्रक्रियाएं जारी हैं," और कहा कि जब तक प्रभावी सुरक्षा उपाय लागू नहीं हो जाते, तब तक एक्सेस ब्लॉक रहेगा।

2023 में लॉन्च किया गया ग्रोक X पर इस्तेमाल करने के लिए मुफ्त है। यूजर्स सोशल मीडिया प्लेटफॉर्म पर इससे सवाल पूछ सकते हैं और उन पोस्ट को टैग कर सकते हैं जिन्हें उन्होंने सीधे बनाया है या अन्य यूजर्स की पोस्ट के जवाब दिए हैं। पिछली गर्मियों में कंपनी ने एक इमेज जनरेटर फीचर, ग्रोक इमेजिन जोड़ा था, जिसमें एक तथाकथित "स्पाइसी मोड" शामिल था जो एडल्ट कंटेंट जेनरेट कर सकता है।

दक्षिण-पूर्व एशियाई देशों में ये पाबंदियां ऐसे समय में लगाई गई हैं जब यूरोपियन यूनियन, ब्रिटेन, भारत और फ्रांस सहित दूसरी जगहों पर ग्रोक की कड़ी जांच हो रही है। पिछले हफ़्ते लोगों के सेक्शुअल डीपफेक को लेकर दुनिया भर में हुए विरोध के बाद ग्रोक ने इमेज जनरेशन और एडिटिंग को सिर्फ़ पैसे देने वाले यूज़र्स तक सीमित कर दिया था, लेकिन आलोचकों का कहना है कि इससे समस्या पूरी तरह से हल नहीं हुई है।