AI-जनित आपत्तिजनक कंटेंट पर सोशल मीडिया प्लेटफॉर्म की जवाबदेही तय

Delhi दिल्ली: केंद्र सरकार ने X (पूर्व में ट्विटर) को एक पत्र भेजा है, जिसमें प्लेटफॉर्म पर आपत्तिजनक कंटेंट के खिलाफ कार्रवाई करने का निर्देश दिया गया है। इस पर वरिष्ठ अधिवक्ता राघव अवस्थी ने कहा कि अगर X अपने AI बॉट GROK द्वारा उत्पन्न अश्लील सामग्री को कानून के अनुसार हटाने में असफल रहता है, तो उसकी सुरक्षित दायित्व (safe harbour) की सुरक्षा समाप्त हो जाएगी और उसे भारतीय कानूनों के तहत जवाबदेह ठहराया जाएगा। राघव अवस्थी ने बताया, "Safe harbour प्रावधान के तहत मूल नियम यह स्पष्ट करता है कि कोई भी सोशल मीडिया इंटरमीडियरी, जैसे X, गूगल या फेसबुक, प्लेटफॉर्म पर अपलोड किए गए किसी भी कंटेंट के लिए जिम्मेदार नहीं होगा, बशर्ते कि वह देश के कानूनों का पालन करे और कंटेंट में कोई संपादन न करे।

हालांकि, उन्होंने आगे कहा, "केंद्र सरकार ने स्पष्ट किया है कि यदि कोई अश्लील कंटेंट GROK AI बॉट द्वारा उत्पन्न किया जाता है और X उसे आईटी अधिनियम की धारा 3.1 बी के तहत हटाने में विफल रहता है, तो प्लेटफॉर्म की सुरक्षा हटा दी जाएगी। इसके परिणामस्वरूप, X को कानून के तहत उस अश्लील सामग्री के लिए उत्तरदायी ठहराया जाएगा। आईटी एक्ट 2000 और आईटी नियम 2021 के तहत सोशल मीडिया इंटरमीडियरी को सुरक्षित रखने की व्यवस्था की गई थी। इसके अनुसार, प्लेटफॉर्म तब तक कानून के तहत सुरक्षित माना जाता है, जब तक वह कंटेंट को संपादित नहीं करता और किसी भी आपत्तिजनक सामग्री के मामले में तुरंत कार्रवाई करता है। यह प्रावधान सोशल मीडिया प्लेटफॉर्म को तकनीकी और कानूनी सुरक्षा प्रदान करता है।

इस घटना ने AI-जनित कंटेंट के तेजी से बढ़ते खतरे और सोशल मीडिया प्लेटफॉर्म की जवाबदेही पर नए सवाल खड़े कर दिए हैं। विशेषज्ञों का मानना है कि AI द्वारा उत्पन्न कंटेंट की निगरानी और उसे हटाने की जिम्मेदारी अब प्लेटफॉर्म के पास है। अगर नियमों का पालन नहीं किया गया, तो सुरक्षित दायित्व समाप्त हो सकता है और भारी कानूनी परिणाम भुगतने पड़ सकते हैं। वहीं, सरकार का कहना है कि GROK जैसे AI बॉट्स द्वारा उत्पन्न अश्लील कंटेंट को रोकने के लिए प्लेटफॉर्म को सुनिश्चित करना होगा कि सभी आपत्तिजनक सामग्री भारतीय कानून के अनुरूप हटाई जाए। यह कदम डिजिटल प्लेटफॉर्म पर जिम्मेदारी और निगरानी बढ़ाने के लिए उठाया गया है।

विशेषज्ञों का कहना है कि यह मामला सोशल मीडिया प्लेटफॉर्म और AI कंटेंट मॉडरेशन के बीच संतुलन बनाए रखने के लिए एक महत्वपूर्ण संकेत है। इसके तहत यह साफ किया गया है कि तकनीकी उपकरणों द्वारा उत्पन्न सामग्री पर भी प्लेटफॉर्म जिम्मेदार होगा। इस दिशा में यदि X ने कानून का पालन नहीं किया, तो उसे IT Act के तहत आपत्तिजनक सामग्री के लिए कानूनी कार्रवाई का सामना करना पड़ेगा। इस कदम से यह भी स्पष्ट हो गया है कि सरकार AI-जनित कंटेंट को लेकर सख्त दृष्टिकोण अपनाने के लिए तैयार है। सोशल मीडिया और AI विशेषज्ञों का मानना है कि आने वाले समय में इस तरह के फैसले अन्य प्लेटफॉर्म्स के लिए भी मिसाल स्थापित करेंगे और भारत में डिजिटल कंटेंट निगरानी की दिशा को और सुदृढ़ करेंगे।