चेहरे बदलने वाले AI ऐप पर विवाद, Instagram और Facebook विज्ञापनों ने बढ़ाई चिंता

ब्लूमबर्ग न्यूज़ की रिपोर्ट के अनुसार, नॉन-प्रॉफिट संस्था 'टेक ट्रांसपेरेंसी प्रोजेक्ट' (TTP) की एक नई रिपोर्ट में पता चला है कि मेटा के अपने ही नियमों का उल्लंघन करते हुए, उसके चीन स्थित एक एडवरटाइजिंग पार्टनर के ज़रिए AI 'न्यूडिफाई' (कपड़े हटाने वाले) ऐप्स के हज़ारों विज्ञापन फेसबुक और इंस्टाग्राम पर दिखाए गए। बीजिंग की कंपनी 'गैदरवन' (GatherOne) - जो मेटा के प्लेटफॉर्म पर विज्ञापन देने की इच्छुक चीनी कंपनियों को अमेरिकी कंपनी से जोड़ती है - कथित तौर पर ऐसे मोबाइल ऐप्स को प्रमोट करने वाले लगभग 7,600 विज्ञापनों के लिए ज़िम्मेदार थी, जो महिलाओं के चेहरों को नग्न शरीरों पर लगाकर सेक्सुअल वीडियो बना सकते थे।

मेटा पर चीनी पार्टनर को 'छूट' देने का आरोप

रिपोर्ट के अनुसार, मेटा के विज्ञापन नियम सेक्सुअल संकेत देने वाले या तस्वीरों में मौजूद लोगों के कपड़े डिजिटल रूप से हटाने वाले ऐप्स को प्रमोट करने वाले विज्ञापनों पर रोक लगाते हैं। फिर भी, ये नतीजे बताते हैं कि Apple और Alphabet जैसे बड़े प्लेटफॉर्म ऐसे ऐप्स के प्रसार को रोकने में बार-बार नाकाम रहे हैं। TTP की डायरेक्टर केटी पॉल ने कथित तौर पर कहा, "ऐसा लगता है कि 'न्यूडिफाई' विज्ञापनों के मामले में मेटा अपने एक प्रमुख चीनी एडवरटाइजिंग पार्टनर को खुली छूट दे रहा है।" उन्होंने आगे कहा कि ये नतीजे बताते हैं कि कंपनी यूज़र की सुरक्षा से ज़्यादा विज्ञापन से होने वाली कमाई को प्राथमिकता देती है।

मेटा और गैदरवन की प्रतिक्रिया

मेटा में महिलाओं की सुरक्षा नीति की प्रमुख, सिंडी साउथवर्थ ने कथित तौर पर कहा कि कंपनी अपने प्लेटफॉर्म पर बिना सहमति के अंतरंग तस्वीरें या 'न्यूडिफाई' ऐप्स की अनुमति नहीं देती है और उनसे निपटने के लिए कदम उठाती है। वहीं, कंपनी के एक प्रवक्ता ने कहा कि जो विज्ञापनदाता कंपनी के मानकों का उल्लंघन करते हैं, उन्हें अकाउंट बंद होने जैसी सज़ा का सामना करना पड़ सकता है।

अपनी ओर से, गैदरवन ने कहा कि वह मेटा की विज्ञापन नीतियों का पालन करती है और भ्रामक तरीकों, एडल्ट कंटेंट, बिना सहमति के स्पष्ट AI-जनरेटेड सामग्री और बच्चों के शोषण के मामलों में ज़ीरो-टॉलरेंस (सख्त) रवैया अपनाती है। कंपनी ने पब्लिकेशन को बताया कि वह AI न्यूडिफाइंग और फेस-स्वैप सेवाओं के लिए नए विज्ञापन अकाउंट सस्पेंड कर रही है और सिंथेटिक मीडिया के विकास को देखते हुए अनुपालन (compliance) व्यवस्था को अपग्रेड कर रही है।

मेटा की चीन से होने वाली विज्ञापन कमाई की एक दुर्लभ झलक

यह रिपोर्ट बताती है कि मेटा चीन से कैसे कमाई करता है - जहाँ उसके अपने प्लेटफॉर्म ब्लॉक हैं - और यह कमाई गैदरवन जैसे बिचौलियों के ज़रिए होती है, जो चीनी व्यवसायों को वैश्विक दर्शकों तक विज्ञापन पहुँचाने में मदद करते हैं। मेटा ने 2024 में खत्म हुए साल के लिए चीन में $18.4 बिलियन की बिक्री की रिपोर्ट दी, जो उसकी ग्लोबल कमाई का 11 प्रतिशत है। यह 2022 में देश में हुई कमाई से दोगुने से भी ज़्यादा है, हालांकि इसके बाद से उसने चीन से जुड़े आंकड़े नहीं बताए हैं। रॉयटर्स की दिसंबर की एक रिपोर्ट में अलग से पता चला था कि मेटा के अंदरूनी दस्तावेज़ों से पता चलता है कि कंपनी की 2024 की चीन से हुई कमाई का लगभग पांचवां हिस्सा बैन किए गए कंटेंट - जैसे पोर्नोग्राफी, स्कैम और गैर-कानूनी जुआ - के विज्ञापनों से आया था। रिपोर्ट में GatherOne का नाम उन एजेंसियों में शामिल था जो ऐसे विज्ञापनों में मदद करती थीं।

कंटेंट पर आपत्ति के बाद एक ऐप हटाया गया

TTP की जांच में एक Android ऐप भी शामिल था, जिसके बारे में Google Play स्टोर पेज पर रिव्यू करने वालों ने आपत्ति जताई थी। आरोप था कि इस ऐप में नाबालिगों से जुड़ा गैर-कानूनी कंटेंट था, जबकि इसे सभी उम्र के लोगों के लिए सही बताया गया था। इस ऐप को 21 जुलाई को Google Play से हटा दिया गया और GatherOne ने कहा कि उसने इसे बनाने वाली कंपनी का विज्ञापन एक्सेस हमेशा के लिए बंद कर दिया है। मेटा ने पुष्टि की कि उसने ऐप को बैन कर दिया है और न्यूडिफाई (nudify) करने वाले कई अन्य ऐप्स के लिंक ब्लॉक कर दिए हैं, जबकि Google ने टिप्पणी के अनुरोधों का कोई जवाब नहीं दिया।