EU ने मस्क के X के खिलाफ ग्रोक द्वारा सेक्शुअलाइज़्ड डीपफेक इमेज बनाने पर जांच शुरू की

European यूरोपीय : यूरोपीय आयोग ने सोमवार को एलोन मस्क के X के खिलाफ डिजिटल सेवा अधिनियम (DSA) के तहत एक नई औपचारिक जांच शुरू की है, जिसमें उसके AI चैटबॉट ग्रोक द्वारा महिलाओं और नाबालिगों की सेक्शुअलाइज़्ड डीपफेक तस्वीरें बनाने का मामला है। इसके साथ ही, आयोग ने दिसंबर 2023 में X के रिकमेंडर सिस्टम जोखिम प्रबंधन दायित्वों के अनुपालन में शुरू की गई अपनी चल रही जांच को भी बढ़ा दिया है। एक बयान के अनुसार, नई जांच में यह आकलन किया जाएगा कि क्या कंपनी ने EU में X में ग्रोक की कार्यक्षमताओं को लागू करने से जुड़े जोखिमों का ठीक से आकलन किया और उन्हें कम किया।

इसमें EU में अवैध सामग्री के प्रसार से जुड़े जोखिम शामिल हैं, जैसे कि हेरफेर की गई यौन रूप से स्पष्ट तस्वीरें, जिसमें ऐसी सामग्री भी शामिल है जो बाल यौन शोषण सामग्री के बराबर हो सकती है। यूरोपीय आयोग की प्रमुख उर्सुला वॉन डेर लेयेन ने कहा, "यूरोप में, हम महिलाओं और बच्चों के डिजिटल कपड़े उतारने जैसे अकल्पनीय व्यवहार को बर्दाश्त नहीं करेंगे।" टेक संप्रभुता, सुरक्षा और लोकतंत्र के कार्यकारी उपाध्यक्ष हेन्ना विर्ककुनेन ने कहा कि महिलाओं और बच्चों के यौन डीपफेक अपमान का एक हिंसक, अस्वीकार्य रूप हैं। विर्ककुनेन ने आगे कहा, "इस जांच के साथ, हम यह तय करेंगे कि क्या X ने DSA के तहत अपने कानूनी दायित्वों को पूरा किया है, या क्या उसने यूरोपीय नागरिकों - जिसमें महिलाओं और बच्चों के अधिकार भी शामिल हैं - को अपनी सेवा के संपार्श्विक नुकसान के रूप में माना है।" इसके मद्देनजर, आयोग आगे जांच करेगा कि क्या X अपने DSA दायित्वों का पालन करता है ताकि व्यवस्थित जोखिमों का सावधानीपूर्वक आकलन और उन्हें कम किया जा सके, जिसमें अवैध सामग्री का प्रसार, लिंग-आधारित हिंसा के संबंध में नकारात्मक प्रभाव, और ग्रोक की कार्यक्षमताओं को अपने प्लेटफॉर्म में लागू करने से शारीरिक और मानसिक स्वास्थ्य पर गंभीर नकारात्मक परिणाम शामिल हैं।

यह ग्रोक की कार्यक्षमताओं के लिए X सेवा में एक तदर्थ जोखिम मूल्यांकन रिपोर्ट भी आयोजित करेगा और आयोग को भेजेगा, जिसका उनके लागू होने से पहले X के जोखिम प्रोफ़ाइल पर महत्वपूर्ण प्रभाव पड़ता है। अलग से, आयोग ने दिसंबर 2023 में X के खिलाफ शुरू की गई अपनी चल रही औपचारिक कार्यवाही को बढ़ा दिया है ताकि यह स्थापित किया जा सके कि क्या X ने DSA में परिभाषित सभी व्यवस्थित जोखिमों का ठीक से आकलन और उन्हें कम किया है, जो उसके रिकमेंडर सिस्टम से जुड़े हैं, जिसमें हाल ही में घोषित ग्रोक-आधारित रिकमेंडर सिस्टम में बदलाव का प्रभाव भी शामिल है। "अगर ये नाकामियां साबित होती हैं, तो ये DSA के आर्टिकल 34(1) और (2), 35(1) और 42(2) का उल्लंघन होंगी। कमीशन अब प्राथमिकता के आधार पर गहराई से जांच करेगा। औपचारिक कार्यवाही शुरू करने का मतलब यह नहीं है कि इसका नतीजा पहले से तय है," बयान में कहा गया।