नई दिल्ली: टेक ट्रांसपेरेंसी प्रोजेक्ट (TTP) की एक जांच के अनुसार, इस साल मेटा के फेसबुक और इंस्टाग्राम प्लेटफॉर्म पर बच्चों के यौन शोषण से जुड़ी सामग्री (CSAM) वाले 300 से ज़्यादा पेड विज्ञापन दिखाए गए। इनमें असली बच्चों की AI से बदली हुई (मैनिपुलेटेड) तस्वीरें भी शामिल थीं।
जांच में पाया गया कि कई विज्ञापनों में असली बच्चों की उन तस्वीरों का इस्तेमाल किया गया था जो सोशल मीडिया पोस्ट और वेबसाइटों से ली गई थीं। बाद में आर्टिफिशियल इंटेलिजेंस (AI) का इस्तेमाल करके इन तस्वीरों को इस तरह बदला गया कि ऐसा लगे जैसे बच्चे अश्लील यौन गतिविधियों में शामिल हों।
एक बेहद परेशान करने वाले मामले में, यूरोप के एक शाही परिवार के नाबालिग सदस्य की तस्वीर, जिसे पिछले साल सार्वजनिक किया गया था, फेसबुक और इंस्टाग्राम पर एक विज्ञापन में दिखाई दी। इस तस्वीर को डिजिटल रूप से एक वीडियो में बदल दिया गया, जिसमें बच्चे को अश्लील यौन गतिविधि करते हुए दिखाया गया था। यह विज्ञापन एक चीनी AI ऐप को प्रमोट कर रहा था और खबरों के मुताबिक इसे वयस्क पुरुष यूज़र्स को टारगेट करके दिखाया गया था।
TTP के अनुसार, जांच में पहचाने गए 300 से ज़्यादा विज्ञापनों में छोटे बच्चों से लेकर किशोरावस्था के शुरुआती दौर वाले बच्चे शामिल थे। ज़्यादातर विज्ञापन एक जैसे फॉर्मेट में थे: पहले वयस्क पोर्नोग्राफी का एक छोटा हिस्सा दिखाया जाता था और फिर AI से बदली हुई बच्चे की तस्वीर दिखाई जाती थी। विज्ञापनों में बार-बार इस्तेमाल होने वाले कैप्शन, वॉयसओवर और बैकग्राउंड म्यूज़िक का भी इस्तेमाल किया गया था।
TTP ने कहा कि वह विज्ञापनों में इस्तेमाल की गई असली बच्चों की कई तस्वीरों की पहचान करने में सफल रहा। इससे यह चिंता पैदा होती है कि ऑनलाइन सार्वजनिक रूप से शेयर की गई तस्वीरों का गलत इस्तेमाल किया जा सकता है और जेनरेटिव AI टूल्स का इस्तेमाल करके उन्हें शोषणकारी सामग्री में बदला जा सकता है।
जांच में यह भी पाया गया कि कई विज्ञापन चीन में मेटा के विज्ञापन पार्टनर्स द्वारा लगाए गए थे, जिनमें चीन की सरकारी नियंत्रण वाली एक कंपनी भी शामिल थी। ज़्यादातर विज्ञापन यूज़र्स को चीन में बने AI ऐप्स की ओर ले जाते थे। इनमें से कई ऐप्स में तथाकथित "न्यूडिफिकेशन" (कपड़े हटाने या तस्वीरों के अश्लील वर्शन बनाने) की सुविधा थी।
शुरुआत में मेटा ने TTP के कमेंट के अनुरोध का कोई जवाब नहीं दिया। हालांकि, जब संगठन ने अपनी जानकारी कंपनी के साथ शेयर की, तो मेटा ने अपने विज्ञापन इकोसिस्टम को तेज़ी से साफ किया। TTP के अनुसार, मेटा की ऐड लाइब्रेरी में मौजूद लगभग 150 विज्ञापनों को हटा दिया गया।
मेटा ने उन 100 से ज़्यादा विज्ञापनों के रिकॉर्ड भी अपडेट किए जिन्हें पहले ही हटाया जा चुका था, और उन्हें अपनी बाल-शोषण विरोधी नीतियों का उल्लंघन करने वाले विज्ञापनों के तौर पर नई कैटेगरी में डाला। TTP ने कहा कि उन विज्ञापनों को पहले मेटा की 'एडल्ट-ओरिएंटेड' (वयस्कों के लिए बनी) पॉलिसी के तहत रखा गया था, क्योंकि उनमें बच्चों की मौजूदगी का साफ़ तौर पर पता नहीं चल रहा था।
इस अंतर ने इस बात पर सवाल खड़े कर दिए हैं कि क्या मेटा के मौजूदा सिस्टम बच्चों के यौन शोषण से जुड़े मामलों की गिनती कम कर रहे हैं, खासकर तब जब उनमें AI से बनी या बदली हुई तस्वीरें शामिल हों।
मेटा के एक प्रवक्ता ने कहा कि कंपनी "न्यूडिफाई ऐप्स या किसी भी तरह के बाल शोषण को बर्दाश्त नहीं करती, चाहे वह असली हो या AI से बनाया गया हो।" प्रवक्ता ने आगे कहा कि जांच में पहचाने गए कई विज्ञापनों को पहले ही हटा दिया गया है और मेटा अपने डिटेक्शन और एनफोर्समेंट सिस्टम को और मज़बूत कर रही है।