इस प्रकार ओपनएआई का लक्ष्य चुनावी वर्ष में 'वॉयस इंजन' के साथ डीपफेक से लड़ना

नई दिल्ली: जहां विश्व नेता वैश्विक चुनावी वर्ष में डीपफेक के खतरे से निपटने के लिए संघर्ष कर रहे हैं, वहीं सैम ऑल्टमैन द्वारा संचालित ओपनएआई 'वॉयस इंजन' नामक टेक्स्ट-टू-स्पीच मॉडल के साथ लाभकारी एआई विकसित करने की कोशिश कर रहा है। एआई मॉडल प्राकृतिक-ध्वनि वाले भाषण उत्पन्न करने के लिए टेक्स्ट इनपुट और "एकल 15-सेकंड ऑडियो नमूना" का उपयोग करता है।

ओपनएआई के अनुसार, "यह उल्लेखनीय है कि 15 सेकंड के नमूने वाला एक छोटा मॉडल भावनात्मक और यथार्थवादी आवाज़ें बना सकता है।" कंपनी ने स्वीकार किया कि लोगों की आवाज़ से मिलता-जुलता भाषण उत्पन्न करने में गंभीर जोखिम होते हैं, जो विशेष रूप से चुनावी वर्ष में सबसे ऊपर होते हैं। ओपनएआई ने कहा, "हम सरकार, मीडिया, मनोरंजन, शिक्षा, नागरिक समाज और उससे परे के अमेरिकी और अंतर्राष्ट्रीय साझेदारों के साथ जुड़ रहे हैं ताकि यह सुनिश्चित किया जा सके कि हम निर्माण करते समय उनकी प्रतिक्रिया को शामिल कर रहे हैं।"

'वॉयस इंजन' का परीक्षण करने वाले साझेदार ओपनएआई की उपयोग नीतियों पर सहमत हुए हैं, जो सहमति या कानूनी अधिकार के बिना किसी अन्य व्यक्ति या संगठन के प्रतिरूपण पर रोक लगाती है।

कंपनी ने एक ब्लॉग पोस्ट में कहा, "इसके अलावा, इन साझेदारों के साथ हमारी शर्तों के लिए मूल वक्ता से स्पष्ट और सूचित सहमति की आवश्यकता होती है और हम डेवलपर्स को व्यक्तिगत उपयोगकर्ताओं के लिए अपनी आवाज बनाने के तरीके बनाने की अनुमति नहीं देते हैं।"कंपनी ने कहा कि भागीदारों को अपने दर्शकों को यह भी स्पष्ट रूप से बताना होगा कि वे जो आवाजें सुन रहे हैं वे एआई-जनित हैं।"आखिरकार, हमने सुरक्षा उपायों का एक सेट लागू किया है, जिसमें वॉयस इंजन द्वारा उत्पन्न किसी भी ऑडियो की उत्पत्ति का पता लगाने के लिए वॉटरमार्किंग, साथ ही इसका उपयोग कैसे किया जा रहा है इसकी सक्रिय निगरानी शामिल है"।