'ग्लोबल इलेक्शन ईयर में डीपफेक के बारे में सतर्क रहना महत्वपूर्ण'

नई दिल्ली: यह देखते हुए कि भारत सहित 60 से अधिक देश इस वर्ष चुनाव मोड में प्रवेश कर रहे हैं, यह महत्वपूर्ण है कि हम गतिशील डिजिटल परिदृश्य में हाल के रुझानों पर सतर्क रहें, विशेष रूप से डीपफेक, वैश्विक मुख्य गोपनीयता और एआई गवर्नेंस अधिकारी इवाना बार्टोलेटी कहते हैं। विप्रो में."डीपफेक हर किसी के लिए सुलभ हो गए हैं, जिससे एक बड़ा खतरा पैदा हो गया है क्योंकि ये जोड़-तोड़ यथार्थवादी ऑडियो और वीडियो सामग्री के निर्माण और प्रसार की अनुमति देते हैं, जिसमें व्यक्तियों को ऐसी बातें कहते और करते हुए दिखाया जाता है जो उन्होंने वास्तव में कभी नहीं कहा या किया," बार्टोलेटी ने जोर दिया, जो 'वीमेन' के संस्थापक भी हैं। एआई नेटवर्क में अग्रणी'।परिणाम डिजिटल दायरे से परे भी फैलते हैं, क्योंकि ऑनलाइन दुष्प्रचार और समन्वय वास्तविक दुनिया की हिंसा में फैल सकता है।भारत में सरकार ने अपनी एआई एडवाइजरी का अपडेट जारी करते हुए कहा है कि बड़ी डिजिटल कंपनियों को अब देश में कोई भी एआई मॉडल लॉन्च करने से पहले सरकार की अनुमति की जरूरत नहीं है।

हालाँकि, बड़ी तकनीकी कंपनियों को उपयोगकर्ताओं को उनकी संभावित गिरावट या अविश्वसनीयता के बारे में सूचित करने के लिए "अंडर-टेस्टेड और अविश्वसनीय एआई मॉडल" लेबल करने की सलाह दी जाती है।"अंडर-टेस्टेड/अविश्वसनीय आर्टिफिशियल इंटेलिजेंस फाउंडेशनल मॉडल)/एलएलएम/जेनरेटिव एएल, सॉफ्टवेयर या एल्गोरिदम या ऐसे मॉडलों पर आगे का विकास संभावित अंतर्निहित गिरावट या अविश्वसनीयता को उचित रूप से लेबल करने के बाद ही भारत में उपयोगकर्ताओं के लिए उपलब्ध कराया जाना चाहिए। उत्पन्न आउटपुट का, ”नई MeitY सलाह के अनुसार।सभी मध्यस्थों या प्लेटफार्मों को यह सुनिश्चित करना होगा कि एआई मॉडल/एलएलएम/जेनरेटिव एआई, सॉफ्टवेयर या एल्गोरिदम का उपयोग "अपने उपयोगकर्ताओं को उल्लिखित किसी भी गैरकानूनी सामग्री को होस्ट, प्रदर्शित, अपलोड, संशोधित, प्रकाशित, प्रसारित, स्टोर, अपडेट या साझा करने की अनुमति नहीं देता है।

आईटी नियमों के नियम 3(1)(बी) में या आईटी अधिनियम के किसी अन्य प्रावधान का उल्लंघन करता है।"डिजिटल प्लेटफॉर्म को तत्काल प्रभाव से नए एआई दिशानिर्देशों का पालन करने के लिए कहा गया है।बार्टोलेटी के अनुसार, सार्वजनिक सुरक्षा सुनिश्चित करने के लिए, कंपनियों को जिम्मेदारी लेनी चाहिए और डीपफेक और दुष्प्रचार से निपटने के लिए उपाय लागू करने चाहिए।उन्होंने कहा, "इसमें डीपफेक सामग्री की पहचान करने और उसे चिह्नित करने के लिए उन्नत पहचान प्रौद्योगिकियों में निवेश करना, साथ ही प्रभावी डिबंकिंग तरीकों को विकसित करने के लिए विशेषज्ञों के साथ सहयोग करना शामिल है।"इसके अतिरिक्त, जनता के बीच मीडिया साक्षरता और आलोचनात्मक सोच को बढ़ावा देना महत्वपूर्ण है।बार्टोलेटी ने कहा, "डीपफेक के जोखिमों को दूर करने के लिए सक्रिय कदम उठाकर, हम चुनावों की अखंडता की रक्षा कर सकते हैं और लोकतांत्रिक प्रक्रिया को कायम रख सकते हैं।"