दक्षिण कोरिया ने X को AI से बने सेक्सुअल कंटेंट से नाबालिगों की सुरक्षा सुनिश्चित करने का निर्देश दिया

Seoul: साउथ कोरिया की मीडिया वॉचडॉग ने बुधवार को कहा कि उसने U.S.-बेस्ड सोशल मीडिया प्लेटफॉर्म X से आर्टिफिशियल इंटेलिजेंस (AI) मॉडल Grok से बनने वाले सेक्सुअल कंटेंट से नाबालिग यूज़र्स को बचाने के लिए उपाय बताने को कहा है।

कोरिया मीडिया एंड कम्युनिकेशंस कमीशन (KMCC) ने कहा कि AI प्लेटफॉर्म से बनने वाले डीपफेक सेक्सुअल कंटेंट को लेकर बढ़ती चिंताओं के बीच उसने ऑपरेटर को यह रिक्वेस्ट भेजी है।

KMCC ने एक रिलीज़ में कहा, "हमने X के ऑपरेटर से Grok पर संभावित गैर-कानूनी एक्टिविटीज़ को रोकने और टीनएजर्स को नुकसानदायक कंटेंट से बचाने के लिए उपाय बताने को कहा है, जिसमें उनकी एक्सेस को लिमिट करना या मैनेज करना शामिल है।"

कमीशन ने कहा कि साउथ कोरिया के कानून के तहत, X समेत सोशल नेटवर्क प्लेटफॉर्म के ऑपरेटरों को नाबालिगों की सुरक्षा के लिए एक अधिकारी को इंचार्ज बनाना और एक सालाना रिपोर्ट जमा करना ज़रूरी है।

KMCC ने कहा कि यह रिक्वेस्ट रेगुलेशन के हिसाब से की गई थी, और यह भी बताया गया है कि बिना सहमति के बने सेक्सुअल डीपफेक कंटेंट को बनाना, सर्कुलेट करना या सेव करना क्रिमिनल सज़ा के दायरे में आता है।

KMCC के चेयरपर्सन किम जोंग-चियोल ने एक रिलीज़ में कहा, "हम नई टेक्नोलॉजी के सही और सुरक्षित डेवलपमेंट को एक्टिवली सपोर्ट करना चाहते हैं।"

किम ने कहा, "जहां तक ​​साइड इफ़ेक्ट और नेगेटिव असर की बात है, हम सही रेगुलेशन लाने और पॉलिसी में बदलाव करने का प्लान बना रहे हैं ताकि गैर-कानूनी जानकारी, जिसमें सेक्सुअल अब्यूज़ कंटेंट भी शामिल है, के सर्कुलेशन को रोका जा सके, और AI सर्विस प्रोवाइडर्स को माइनर्स की सुरक्षा करने के लिए कहा जा सके।"

इस बीच, मस्क की कंपनी X Corp ने अपने प्लेटफॉर्म पर गंदी इमेज होने की बात मानी है, जो ज़्यादातर उसके Grok AI ने बनाई हैं, और कहा है कि वह भारतीय कानूनों का पालन करेगी और ऐसे कंटेंट को हटा देगी।

भारत सरकार ने X को गैर-कानूनी कंटेंट बनने से रोकने के लिए Grok के टेक्निकल और गवर्नेंस फ्रेमवर्क का पूरा रिव्यू करने का निर्देश दिया था। उसने कहा कि Grok को नियम तोड़ने वालों को सस्पेंड और टर्मिनेट करने सहित सख्त यूज़र पॉलिसी लागू करनी चाहिए। उसने कहा कि सभी आपत्तिजनक कंटेंट को सबूतों से छेड़छाड़ किए बिना तुरंत हटा दिया जाना चाहिए।