यूनिसेफ: AI द्वारा बनाई गई यौन छवियां बाल शोषण के अंतर्गत

New York, न्यूयॉर्क : यूनिसेफ ने कहा कि कृत्रिम बुद्धिमत्ता (एआई) द्वारा निर्मित बच्चों को दर्शाने वाली यौन उत्तेजक छवियां बाल यौन शोषण की श्रेणी में आती हैं और इन्हें अपराध घोषित किया जाना चाहिए। यूनिसेफ ने एआई उपकरणों के दुरुपयोग से आपत्तिजनक सामग्री बनाने में हो रही तीव्र और चिंताजनक वृद्धि के प्रति आगाह किया।

एक बयान में, दुनिया भर में बच्चों को मानवीय और विकासात्मक सहायता प्रदान करने के लिए जिम्मेदार संयुक्त राष्ट्र एजेंसी ने कहा कि वह एआई द्वारा उत्पन्न यौन उत्तेजक छवियों में वृद्धि दर्शाने वाली रिपोर्टों से तेजी से चिंतित है, जिसमें ऐसे मामले भी शामिल हैं जहां बच्चों की वास्तविक तस्वीरों को डीपफेक तकनीक के माध्यम से हेरफेर करके यौन उत्तेजक बनाया जाता है।

" एआई उपकरणों का उपयोग करके बनाई या हेरफेर की गई बच्चों की यौन उत्तेजक छवियां बाल यौन शोषण सामग्री हैं। डीपफेक का दुरुपयोग भी एक प्रकार का दुरुपयोग है, और इससे होने वाले नुकसान में कुछ भी नकली नहीं है," यूनिसेफ ने कहा।

यूनिसेफ ने कहा कि डीपफेक (कृत्रिम बुद्धिमत्ता का उपयोग करके वास्तविक दिखने के लिए बनाई या बदली गई छवियां, वीडियो या ऑडियो) का उपयोग बच्चों से संबंधित यौन सामग्री बनाने के लिए किया जा रहा है, जिसमें तथाकथित "नग्नता" भी शामिल है, जहां कृत्रिम बुद्धिमत्ता के उपकरण डिजिटल रूप से कपड़ों को हटाकर या बदलकर नग्न या यौन छवियां बनाते हैं।

नए सबूतों का हवाला देते हुए, यूनिसेफ ने कहा कि ईसीपीएटी और इंटरपोल के साथ मिलकर 11 देशों में किए गए एक संयुक्त अध्ययन में पाया गया कि पिछले एक साल में कम से कम 12 लाख बच्चों ने खुलासा किया है कि उनकी तस्वीरों को यौन रूप से आपत्तिजनक डीपफेक वीडियो में रूपांतरित किया गया था। कुछ देशों में, यह आंकड़ा प्रति 25 बच्चों में से एक के बराबर था, यानी लगभग एक सामान्य कक्षा में एक बच्चा।

संयुक्त राष्ट्र की एजेंसी ने कहा कि बच्चे स्वयं इस खतरे से भलीभांति परिचित हैं। सर्वेक्षण किए गए कुछ देशों में, लगभग दो-तिहाई बच्चों ने चिंता व्यक्त की कि कृत्रिम बुद्धिमत्ता का उपयोग करके उनकी नकली यौन तस्वीरें या वीडियो बनाए जा सकते हैं, जो जागरूकता, रोकथाम और सुरक्षा उपायों को और अधिक प्रभावी बनाने की तत्काल आवश्यकता को उजागर करता है।

यूनिसेफ ने इस बात पर जोर दिया कि भले ही पीड़ित की पहचान तुरंत न हो पाए, लेकिन एआई द्वारा निर्मित बाल यौन शोषण सामग्री बच्चों के यौन शोषण को सामान्य बनाती है, अपमानजनक सामग्री की मांग को बढ़ावा देती है और पीड़ितों की पहचान करने और उनकी सुरक्षा करने में कानून प्रवर्तन एजेंसियों के लिए बड़ी चुनौतियां पैदा करती है।

संगठन ने कहा, "जब किसी बच्चे की छवि या पहचान का इस्तेमाल किया जाता है, तो वह बच्चा सीधे तौर पर पीड़ित होता है।"

कुछ एआई डेवलपर्स द्वारा सुरक्षा-आधारित दृष्टिकोण अपनाने और दुरुपयोग को रोकने के लिए सुरक्षा उपाय लागू करने के लिए उठाए गए कदमों का स्वागत करते हुए, यूनिसेफ ने कहा कि उद्योग भर में सुरक्षा व्यवस्था अभी भी एक समान नहीं है। इसने चेतावनी दी कि जब जनरेटिव एआई टूल्स को सोशल मीडिया प्लेटफॉर्म में शामिल किया जाता है, तो जोखिम और बढ़ जाते हैं, जिससे हेरफेर की गई छवियां तेजी से फैल सकती हैं।

यूनिसेफ ने दुनिया भर की सरकारों से बाल यौन शोषण सामग्री की कानूनी परिभाषाओं का विस्तार करने का आह्वान किया है ताकि इसमें एआई-जनित सामग्री को स्पष्ट रूप से शामिल किया जा सके और इसके निर्माण, कब्जे, खरीद और वितरण को अपराध घोषित किया जा सके।

एजेंसी ने एआई डेवलपर्स से आग्रह किया कि वे इस तरह की सामग्री के प्रसार को रोकने के लिए मजबूत सुरक्षा उपाय और डिजिटल प्लेटफॉर्म लागू करें, न कि दुरुपयोग होने के बाद ही उसे हटाएं। एजेंसी ने कहा कि आपत्तिजनक सामग्री को तुरंत हटाने के लिए बेहतर कंटेंट मॉडरेशन और डिटेक्शन टेक्नोलॉजी में निवेश करना आवश्यक है।

यूनिसेफ ने कहा, "डीपफेक के दुरुपयोग से होने वाला नुकसान वास्तविक और बेहद गंभीर है। बच्चे कानून के लागू होने का इंतजार नहीं कर सकते।"