CSAM मामला: NHRC ने मेटा की AI भूमिका पर उठाए सवाल

नई दिल्ली: नेशनल ह्यूमन राइट्स कमीशन (NHRC) ने इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय (MeitY), सूचना और प्रसारण मंत्रालय (MIB) और दिल्ली पुलिस से उन आरोपों पर खास, पॉइंट-वाइज़ 'की गई कार्रवाई की रिपोर्ट' (ATR) मांगी है, जिनमें कहा गया है कि इंस्टाग्राम पर पेड विज्ञापनों के ज़रिए भारत में बच्चों के यौन शोषण से जुड़ी सामग्री (CSAM) को बढ़ावा दिया गया और यूज़र्स को टेलीग्राम चैनलों पर भेजा गया, जहाँ कथित तौर पर ऐसी सामग्री बेची जा रही थी।

मानवाधिकारों की शीर्ष संस्था ने इस बात की भी जाँच करने को कहा कि क्या AI और एल्गोरिदम सिस्टम के ज़रिए मेटा की बदलती भूमिका उसे 'सूचना प्रौद्योगिकी (मध्यस्थ दिशानिर्देश और डिजिटल मीडिया आचार संहिता) नियम, 2021' के तहत पब्लिशर्स या ऑनलाइन क्यूरेटेड कंटेंट पर लागू होने वाले रेगुलेटरी दायरे में ला सकती है।

NHRC ने बुधवार को इस मामले में शिकायत और अतिरिक्त जानकारी पर विचार करने के बाद ये निर्देश जारी किए।

NHRC सदस्य प्रियंक कानूनगो की अध्यक्षता वाली एक बेंच ने पहले BBC वर्ल्ड सर्विस की मीडिया रिपोर्टों का स्वतः संज्ञान (suo motu cognisance) लिया था। इन रिपोर्टों में आरोप लगाया गया था कि इंस्टाग्राम पर पेड विज्ञापनों में "रेप वीडियो" और "चाइल्ड वीडियो" जैसे शब्दों का इस्तेमाल किया गया और यूज़र्स को टेलीग्राम चैनलों पर भेजा गया, जहाँ कथित तौर पर ऐसी सामग्री बेची जा रही थी।

NHRC ने पहले दिल्ली पुलिस से ATR मांगी थी और तय समय में रिपोर्ट न मिलने पर दिल्ली पुलिस कमिश्नर को समन जारी कर 7 सितंबर को मानवाधिकारों की शीर्ष संस्था के सामने व्यक्तिगत रूप से पेश होने का निर्देश दिया था।

बाद में व्यक्तिगत रूप से पेश होने की शर्त को 31 अगस्त तक ज़रूरी रिपोर्ट मिलने से जोड़ दिया गया।

अपने हालिया निर्देशों में, NHRC ने कहा कि अगर आरोप सही साबित होते हैं, तो ये "ऑनलाइन बच्चों के यौन शोषण, CSAM/CSEAM के प्रसार और उससे पैसे कमाने, संभावित संगठित आपराधिक गतिविधि, और मध्यस्थ की उचित सावधानी (due diligence), विज्ञापन समीक्षा, कंटेंट मॉडरेशन और बच्चों की सुरक्षा के तरीकों में विफलता" जैसी गंभीर चिंताएँ पैदा करते हैं।

NHRC ने कहा कि इस मामले की जाँच 'बच्चों को यौन अपराधों से संरक्षण (POCSO) अधिनियम, 2012', 'सूचना प्रौद्योगिकी अधिनियम, 2000' और लागू मध्यस्थ फ्रेमवर्क के तहत की जानी चाहिए। इसमें इलेक्ट्रॉनिक सबूतों को सुरक्षित रखना और उनकी फोरेंसिक जाँच, विज्ञापनदाताओं और लाभार्थियों की पहचान, वित्तीय लेन-देन का पता लगाना और पीड़ित बच्चों की पहचान, बचाव और पुनर्वास शामिल है।

इसने खास तौर पर POCSO अधिनियम की धारा 19 का ज़िक्र किया, जिसके तहत ज्ञात या आशंका वाले अपराधों की सूचना स्पेशल जुवेनाइल पुलिस यूनिट या स्थानीय पुलिस को देना अनिवार्य है। इसमें कहा गया है कि बच्चों के यौन शोषण या ऐसी सामग्री के प्रसार और व्यावसायिक शोषण से जुड़े मामलों में, कानूनी ज़िम्मेदारी को "आंतरिक पत्राचार, शिकायत निवारण या नियामक बातचीत" से पूरा नहीं माना जा सकता।

NHRC ने कहा कि सुप्रीम कोर्ट ने 'जस्ट राइट्स फॉर चिल्ड्रेन अलायंस और अन्य बनाम एस. हरीश और अन्य' मामले में दिए गए फैसले में यह स्पष्ट किया था कि इन्फॉर्मेशन टेक्नोलॉजी एक्ट की धारा 79, इंटरमीडियरीज़ (मध्यस्थों) को POCSO एक्ट और नियमों के तहत उनकी ज़िम्मेदारियों से मुक्त नहीं करती है।

NHRC ने अब MeitY सचिव को निर्देश दिया है कि वे स्पष्ट रूप से बताएं कि क्या केंद्र ने आरोपों की जानकारी मिलने पर POCSO एक्ट की धारा 19 के तहत स्पेशल जुवेनाइल पुलिस यूनिट या स्थानीय पुलिस को मामले की रिपोर्ट की थी या रिपोर्ट करवाई थी। यदि ऐसी कोई रिपोर्ट नहीं की गई थी, तो MeitY से उस अधिकारी या प्राधिकरण की पहचान करने के लिए कहा गया है जो अनिवार्य रिपोर्टिंग सुनिश्चित करने के लिए ज़िम्मेदार था, और रिपोर्ट न करने पर की गई कार्रवाई (जिसमें POCSO एक्ट की धारा 21 के तहत कार्रवाई भी शामिल है, यदि लागू हो) के बारे में बताने को कहा गया है।

केंद्र से यह जांचने के लिए भी कहा गया है कि क्या मेटा, कंटेंट बनाने, एडिट करने, बदलने, क्यूरेट करने, रिकमेंड करने और फैलाने में सक्षम सिस्टम के माध्यम से अपनी बदलती तकनीकी और कार्यात्मक भूमिका को देखते हुए, ऑनलाइन कंटेंट क्यूरेटर या पब्लिशर के रूप में MIB के नियामक दायरे में आता है।

NHRC ने अलग से MIB सचिव से पूछा है कि क्या मेटा, जहां उसके AI या एल्गोरिथम सिस्टम कंटेंट बनाते, बदलते, क्यूरेट करते, रिकमेंड करते, पब्लिश करते या फैलाते हैं, IT नियम, 2021 के तहत पब्लिशर या ऑनलाइन क्यूरेटेड कंटेंट के पब्लिशर के रूप में मंत्रालय के नियामक दायरे में आता है।

ये निर्देश 'नेटवर्क फॉर एक्सेस टू जस्टिस एंड मल्टीडिसिप्लिनरी आउटरीच फाउंडेशन' की ओर से एक अतिरिक्त प्रतिवेदन (सप्लीमेंट्री रिप्रेजेंटेशन) के बाद आए, जिसमें आयोग का ध्यान MeitY को मेटा के जवाब की ओर आकर्षित किया गया और डिजिटल प्लेटफॉर्म की बदलती भूमिका के बारे में सवाल उठाए गए।

प्रतिवेदन के अनुसार, मेटा के AI-सक्षम टूल कंटेंट के आइडिया, फॉर्मेट, स्लाइड सीक्वेंसिंग, कैप्शन, कॉल-टू-एक्शन, पोस्टिंग शेड्यूल, ऑडियंस एंगेजमेंट रणनीतियां और मॉनेटाइज़ेशन के तरीके सुझाने में सक्षम थे। शिकायत करने वाली संस्था ने दावा किया कि जब इस टूल को छात्रों से जुड़े हालिया मुद्दों (जिसमें NEET से जुड़ा मामला भी शामिल था) के संदर्भ में परखा गया, तो इसने Instagram और Facebook के लिए एक व्यवस्थित कंटेंट रणनीति का सुझाव दिया। इसमें स्टूडेंट-स्टोरी पोस्ट, "अपने अधिकारों को जानें" (Know Your Rights) वाला कैरोसेल, कॉल-टू-एक्शन पोस्ट, पोस्टिंग शेड्यूल और अन्य चीज़ें शामिल थीं।