सरकार के रडार पर Meta डीपफेक और AI कंटेंट रोकने के लिए जवाब तलब

नई दिल्ली : सोशल मीडिया प्लेटफॉर्म्स पर बढ़ते डीपफेक, भ्रामक जानकारी, प्रोपेगैंडा और गैरकानूनी कंटेंट को लेकर भारत सरकार ने META पर दबाव बढ़ा दिया है। सरकार ने कंपनी से इन समस्याओं से निपटने के लिए अपने एल्गोरिदम और कंटेंट मॉडरेशन सिस्टम में जरूरी बदलाव करने को कहा है। इलेक्ट्रॉनिक्स एवं सूचना प्रौद्योगिकी मंत्रालय (MeitY) और META के अधिकारियों के बीच हुई बैठक में सरकार ने कंपनी से एक विस्तृत रोडमैप तैयार कर उसके सामने पेश करने को कहा है। सरकार का जोर खास तौर पर ऐसे कंटेंट की पहचान, रोकथाम और तेजी से हटाने पर है, जो समाज या कानून-व्यवस्था के लिए नुकसानदायक हो सकता है।

रिपोर्ट के मुताबिक, बैठक के दौरान सरकारी अधिकारियों ने META से कंटेंट मॉडरेशन व्यवस्था को और मजबूत करने की जरूरत पर जोर दिया। खास तौर पर अधिकृत सरकारी एजेंसियों की ओर से कंटेंट हटाने के अनुरोध आने पर कार्रवाई की प्रक्रिया में तेजी लाने को कहा गया। सरकार चाहती है कि ऐसे मामलों में प्लेटफॉर्म पर मौजूद गैरकानूनी या नुकसानदायक सामग्री को जल्द से जल्द हटाया जा सके और संबंधित एजेंसियों के साथ बेहतर समन्वय स्थापित हो।

बैठक में डेटा लोकलाइजेशन का मुद्दा भी प्रमुखता से उठाया गया। सरकार ने META से डेटा को भारत में रखने और इससे जुड़े नियमों पर अधिक ध्यान देने को कहा है। सरकार का मानना है कि डिजिटल प्लेटफॉर्म पर बढ़ती गतिविधियों और साइबर खतरों के बीच डेटा से जुड़े प्रावधानों का प्रभावी तरीके से पालन जरूरी है। इसके साथ ही अधिकारियों ने डीपफेक और मॉर्फ की गई तस्वीरों तथा वीडियो की पहचान के लिए बेहतर तकनीकी व्यवस्था विकसित करने पर भी जोर दिया।

दरअसल, सोशल मीडिया पर आर्टिफिशियल इंटेलिजेंस की मदद से तैयार किए जा रहे सिंथेटिक कंटेंट के कारण सरकार की चिंता लगातार बढ़ी है। डीपफेक तकनीक के जरिए किसी व्यक्ति की तस्वीर, आवाज या वीडियो को इस तरह बदला जा सकता है कि वह वास्तविक दिखाई दे। ऐसे कंटेंट का इस्तेमाल गलत सूचना फैलाने, किसी की छवि खराब करने या लोगों को भ्रमित करने के लिए किया जा सकता है। इसी वजह से सरकार सोशल मीडिया कंपनियों से ऐसे कंटेंट की पहचान और रोकथाम के लिए प्रभावी तकनीकी उपाय करने की मांग कर रही है।

बैठक में META की टेक्निकल टीम ने अधिकारियों को ऑनलाइन नुकसानदायक कंटेंट की पहचान और उससे निपटने के लिए कंपनी द्वारा इस्तेमाल किए जा रहे मौजूदा सिस्टम के बारे में जानकारी दी। कंपनी की ओर से बताया गया कि प्लेटफॉर्म पर ऐसे कंटेंट की निगरानी और कार्रवाई के लिए तकनीकी प्रणालियां पहले से मौजूद हैं। हालांकि, अधिकारियों ने मौजूदा व्यवस्था में संभावित कमियों और उसे और प्रभावी बनाने की जरूरत पर चर्चा की।

सरकारी अधिकारियों ने META के एल्गोरिदम में बदलाव की जरूरत पर भी जोर दिया। खास तौर पर प्रोपेगैंडा, डीपफेक और हेरफेर किए गए मीडिया के तेजी से फैलने को रोकने के लिए एल्गोरिदम को बेहतर बनाने की बात कही गई। सरकार यह भी देख रही है कि सोशल मीडिया प्लेटफॉर्म के एल्गोरिदम किस तरह कंटेंट को यूजर्स तक पहुंचाते हैं और क्या इस प्रक्रिया में किसी तरह का पक्षपात या ऐसा पैटर्न मौजूद है, जिससे नुकसानदायक सामग्री तेजी से फैल सकती है।

एल्गोरिदम बायस यानी एल्गोरिदम के संभावित पक्षपात को लेकर भी सरकार ने कंपनी से स्पष्टीकरण मांगा है। इसके अलावा कानून-व्यवस्था बनाए रखने में सोशल मीडिया प्लेटफॉर्म के एल्गोरिदम की भूमिका पर भी चर्चा हुई। सरकार चाहती है कि सोशल मीडिया कंपनियां केवल कंटेंट हटाने तक सीमित न रहें, बल्कि ऐसी तकनीकी व्यवस्था विकसित करें, जिससे नुकसानदायक सामग्री के वायरल होने से पहले ही उसकी पहचान की जा सके।

बैठक के दौरान META ने सिंथेटिक और हेरफेर किए गए कंटेंट से निपटने के लिए कुछ नए तकनीकी उपायों पर विचार करने की जानकारी भी अधिकारियों को दी। कंपनी ने अपने मौजूदा सिस्टम की कुछ सीमाओं को स्वीकार करते हुए भविष्य में तकनीकी सुधार की दिशा में काम करने की बात कही। इससे संकेत मिलता है कि सरकार और META के बीच इस मुद्दे पर बातचीत आगे भी जारी रहने वाली है।

सूत्रों के मुताबिक, दोनों पक्षों ने इस विषय पर आगे बातचीत जारी रखने पर सहमति जताई है। आने वाले समय में इस मुद्दे पर एक और बैठक हो सकती है। इस बैठक में META की ओर से तैयार किए गए संभावित रोडमैप और तकनीकी बदलावों पर चर्चा होने की संभावना है।

सरकार की सख्ती ऐसे समय में सामने आई है, जब सोशल मीडिया प्लेटफॉर्म्स पर AI से तैयार कंटेंट का इस्तेमाल तेजी से बढ़ रहा है। ऐसे में सरकार का फोकस डिजिटल प्लेटफॉर्म को अधिक जवाबदेह बनाने, गैरकानूनी और नुकसानदायक सामग्री पर तेजी से कार्रवाई सुनिश्चित करने तथा यूजर्स को भ्रामक कंटेंट से बचाने पर है। आने वाले समय में META की ओर से उठाए जाने वाले तकनीकी और नीतिगत कदम यह तय करेंगे कि भारत में सोशल मीडिया कंटेंट मॉडरेशन व्यवस्था किस दिशा में आगे बढ़ती है।