डीपफेक के विकास, प्रसार के लिए पेनल्टी निवारक प्रभाव पैदा कर सकते हैं- CUTS
नई दिल्ली। वैश्विक थिंक टैंक कट्स इंटरनेशनल के एक वरिष्ठ अधिकारी ने एआई-जनित सामग्री के दुरुपयोग को रोकने के लिए प्रौद्योगिकी हस्तक्षेप की तैनाती का आह्वान करते हुए कहा कि दंड प्रावधान डीपफेक और गलत सूचना के विकास और प्रसार को रोकने का काम कर सकते हैं। सीयूटीएस इंटरनेशनल के अनुसंधान निदेशक अमोल कुलकर्णी ने पीटीआई-भाषा को बताया कि इंटरनेट उपयोगकर्ताओं को सामग्री की वास्तविकता को सत्यापित करने के लिए पर्याप्त अवसरों की आवश्यकता होगी और चुनावी मौसम के दौरान यह महत्वपूर्ण हो जाता है जबकि विश्वसनीय तथ्य-जांचकर्ताओं और विश्वसनीय ध्वजवाहकों की भूमिका महत्वपूर्ण हो जाती है।
उन्होंने कहा कि हालांकि 15 मार्च को सरकार की सलाह अनुमति आवश्यकताओं को हटा देती है, लेकिन यह इंटरनेट पर सही विकल्प चुनने के लिए उपयोगकर्ताओं को सूचना प्रकटीकरण पर भरोसा करना जारी रखती है। "हालांकि पारदर्शिता अच्छी है, उपयोगकर्ता यात्राओं के दौरान सूचना अधिभार और 'पॉप-अप' उनके अनुभव की गुणवत्ता को कम कर सकते हैं। अन्य कार्यान्वयन योग्य तकनीकी और जवाबदेही समाधानों के साथ सूचना आवश्यकताओं को संतुलित करने की आवश्यकता है जो डीपफेक और गलत सूचना की समस्या का समाधान कर सकते हैं , “कुलकर्णी ने कहा।
प्रधान मंत्री नरेंद्र मोदी से संबंधित प्रश्नों पर Google के AI प्लेटफ़ॉर्म की प्रतिक्रिया पर विवाद के बाद, सरकार ने 1 मार्च को सोशल मीडिया और अन्य प्लेटफार्मों के लिए अंडर-ट्रायल AI मॉडल को लेबल करने और गैरकानूनी सामग्री की मेजबानी को रोकने के लिए एक सलाह जारी की।इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय ने बिचौलियों और प्लेटफार्मों को जारी सलाह में अनुपालन न करने की स्थिति में आपराधिक कार्रवाई की चेतावनी दी है। पिछली सलाह में संस्थाओं से परीक्षण के तहत या अविश्वसनीय कृत्रिम बुद्धिमत्ता (एआई) मॉडल को तैनात करने के लिए सरकार से मंजूरी लेने और "उत्पन्न आउटपुट की संभावित और अंतर्निहित गिरावट या अविश्वसनीयता" का लेबल लगाने के बाद ही उन्हें तैनात करने के लिए कहा गया है।
इलेक्ट्रॉनिक्स और आईटी मंत्रालय ने 15 मार्च को एआई-जनित सामग्री के उपयोग और रोलआउट पर एक संशोधित सलाह जारी की। आईटी मंत्रालय ने परीक्षण न किए गए और अल्प-विकसित एआई मॉडल के लिए सरकारी अनुमोदन की आवश्यकता को हटा दिया, लेकिन एआई-जनित सामग्री को लेबल करने और उत्पन्न आउटपुट की संभावित अंतर्निहित गिरावट और अविश्वसनीयता के बारे में उपयोगकर्ताओं को जानकारी देने की आवश्यकता पर जोर दिया। कुलकर्णी ने कहा कि डीपफेक और गलत सूचना के मुद्दे को संबोधित करने के लिए इंटरनेट पारिस्थितिकी तंत्र में सभी हितधारकों की जिम्मेदारी को स्पष्ट करने की आवश्यकता होगी: डेवलपर्स, अपलोडर, प्रसारक, प्लेटफॉर्म और सामग्री के उपभोक्ता।
उन्होंने कहा, "हानिकारक डीपफेक और गलत सूचना के विकास और प्रसार के लिए दंड प्रावधान भी एक निवारक प्रभाव पैदा कर सकते हैं। संभावित हानिकारक सामग्री को टैग करने और ऐसी सामग्री के उपयोग को उचित ठहराने के लिए डेवलपर्स और प्रसारकों पर बोझ डालने के लिए तकनीकी समाधान भी डिजाइन किए जा सकते हैं।" .
प्रधान मंत्री नरेंद्र मोदी से संबंधित प्रश्नों पर Google के AI प्लेटफ़ॉर्म की प्रतिक्रिया पर विवाद के बाद, सरकार ने 1 मार्च को सोशल मीडिया और अन्य प्लेटफार्मों के लिए अंडर-ट्रायल AI मॉडल को लेबल करने और गैरकानूनी सामग्री की मेजबानी को रोकने के लिए एक सलाह जारी की।इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय ने बिचौलियों और प्लेटफार्मों को जारी सलाह में अनुपालन न करने की स्थिति में आपराधिक कार्रवाई की चेतावनी दी है। पिछली सलाह में संस्थाओं से परीक्षण के तहत या अविश्वसनीय कृत्रिम बुद्धिमत्ता (एआई) मॉडल को तैनात करने के लिए सरकार से मंजूरी लेने और "उत्पन्न आउटपुट की संभावित और अंतर्निहित गिरावट या अविश्वसनीयता" का लेबल लगाने के बाद ही उन्हें तैनात करने के लिए कहा गया है।
इलेक्ट्रॉनिक्स और आईटी मंत्रालय ने 15 मार्च को एआई-जनित सामग्री के उपयोग और रोलआउट पर एक संशोधित सलाह जारी की। आईटी मंत्रालय ने परीक्षण न किए गए और अल्प-विकसित एआई मॉडल के लिए सरकारी अनुमोदन की आवश्यकता को हटा दिया, लेकिन एआई-जनित सामग्री को लेबल करने और उत्पन्न आउटपुट की संभावित अंतर्निहित गिरावट और अविश्वसनीयता के बारे में उपयोगकर्ताओं को जानकारी देने की आवश्यकता पर जोर दिया। कुलकर्णी ने कहा कि डीपफेक और गलत सूचना के मुद्दे को संबोधित करने के लिए इंटरनेट पारिस्थितिकी तंत्र में सभी हितधारकों की जिम्मेदारी को स्पष्ट करने की आवश्यकता होगी: डेवलपर्स, अपलोडर, प्रसारक, प्लेटफॉर्म और सामग्री के उपभोक्ता।
उन्होंने कहा, "हानिकारक डीपफेक और गलत सूचना के विकास और प्रसार के लिए दंड प्रावधान भी एक निवारक प्रभाव पैदा कर सकते हैं। संभावित हानिकारक सामग्री को टैग करने और ऐसी सामग्री के उपयोग को उचित ठहराने के लिए डेवलपर्स और प्रसारकों पर बोझ डालने के लिए तकनीकी समाधान भी डिजाइन किए जा सकते हैं।" .