नई दिल्ली : ऑनलाइन AI-बेस्ड डीपफेक के फैलने पर ध्यान देते हुए, IT मिनिस्ट्री ने मंगलवार को फेसबुक, इंस्टाग्राम और यूट्यूब जैसे सोशल मीडिया इंटरमीडियरी के लिए रिवाइज्ड गाइडलाइंस जारी कीं। इसमें उन्हें सभी AI-जेनरेटेड कंटेंट को साफ-साफ लेबल करने और यह पक्का करने का निर्देश दिया गया है कि ऐसे सिंथेटिक मटीरियल में एम्बेडेड आइडेंटिफायर हों।
सरकार ने सोशल मीडिया प्लेटफॉर्म के लिए AI-जेनरेटेड या डीपफेक कंटेंट को सरकार द्वारा फ्लैग किए जाने या कोर्ट के आदेश के बाद हटाने के लिए तीन घंटे की डेडलाइन तय की है।
ऑफिशियल नोटिफिकेशन में डिजिटल प्लेटफॉर्म को AI लेबल या उससे जुड़े मेटाडेटा को एक बार लगाने के बाद हटाने या दबाने की इजाज़त देने पर भी रोक लगा दी गई है।
MeitY के ऑर्डर के मुताबिक, सोशल मीडिया कंपनियों को गैर-कानूनी, यौन शोषण करने वाले या धोखा देने वाले AI-जेनरेटेड कंटेंट के सर्कुलेशन का पता लगाने और उसे रोकने के लिए ऑटोमेटेड टूल्स का इस्तेमाल करना होगा।
AI के गलत इस्तेमाल से जुड़े नियमों को तोड़ने के नतीजों के बारे में, "एक इंटरमीडियरी अपने यूज़र्स को समय-समय पर, कम से कम हर तीन महीने में एक बार, अपने नियमों और रेगुलेशन, प्राइवेसी पॉलिसी, यूज़र एग्रीमेंट, या किसी दूसरे सही तरीके से आसान और असरदार तरीके से बताएगा।"
जब किसी इंटरमीडियरी को सिंथेटिक तरीके से बनाई गई जानकारी के तौर पर बनाने, बनाने, बदलने, बदलने, होस्ट करने, दिखाने, अपलोड करने, पब्लिश करने, भेजने, स्टोर करने, अपडेट करने, शेयर करने या किसी और तरह से फैलाने से जुड़े किसी भी उल्लंघन का पता चलता है, तो "उसे तुरंत और सही कार्रवाई करनी होगी"।
अपडेट की गई गाइडलाइंस के मुताबिक, सोशल मीडिया प्लेटफॉर्म्स को ऑटोमेटेड टूल्स या दूसरे सही तरीकों सहित सही और उचित टेक्निकल उपाय करने होंगे, ताकि किसी भी यूज़र को, जैसा भी मामला हो, ऐसी कोई भी सिंथेटिक तरीके से बनाई गई जानकारी बनाने, बनाने, बदलने, बदलने, पब्लिश करने, भेजने, शेयर करने या फैलाने की इजाज़त न मिले, जो उस समय लागू किसी भी कानून का उल्लंघन करती हो, जिसमें एक्ट, भारतीय न्याय संहिता, 2023 (45 of 2023), प्रोटेक्शन ऑफ़ चिल्ड्रन फ्रॉम सेक्सुअल ऑफेंस एक्ट, 2012 (32 of 2012), और एक्सप्लोसिव सब्सटेंस एक्ट, 1908 (6 of 1908) शामिल हैं।
ड्राफ़्ट नियमों में AI से बना या बदला हुआ कंटेंट पोस्ट करते समय यूज़र्स को जानकारी देना ज़रूरी करने और प्लेटफ़ॉर्म को ऐसी जानकारी को वेरिफ़ाई करने के लिए टेक्नोलॉजी अपनाने की ज़रूरत है।
सोशल मीडिया प्लेटफ़ॉर्म पहले ही कई फ़ीचर ला चुके हैं, जिससे यूज़र्स कुछ कंटेंट को आर्टिफिशियल इंटेलिजेंस (AI) का इस्तेमाल करके बनाया या बदला हुआ बता सकते हैं।