OpenAI ChatGPT द्वारा उत्पन्न वॉटरमार्किंग टेक्स्ट पर विचार, लेकिन सावधान
Business बिजनेस: वॉल स्ट्रीट जर्नल के अनुसार, OpenAI के पास ChatGPT द्वारा जेनरेट किए गए टेक्स्ट को वॉटरमार्क करने के लिए कई सालों से एक सिस्टम तैयार है, लेकिन इसे जारी करने या न करने के बारे में आंतरिक रूप से आम सहमति तक पहुँचने में विफल रहा है। वॉल स्ट्रीट जर्नल की रिपोर्ट के बाद, OpenAI ने पुष्टि की है कि वह टेक्स्ट वॉटरमार्किंग विधि पर काम कर रहा है। अमेरिका स्थित आर्टिफिशियल इंटेलिजेंस कंपनी के अनुसार, इसकी टेक्स्ट वॉटरमार्किंग विधि सटीक है और "स्थानीयकृत छेड़छाड़, जैसे कि पैराफ़्रेज़िंग के खिलाफ़ भी प्रभावी है, यह वैश्विक छेड़छाड़ के खिलाफ़ कम मज़बूत है।" हालाँकि, कंपनी ने गैर-देशी अंग्रेजी बोलने वालों के लिए एक उपयोगी लेखन उपकरण के रूप में AI के उपयोग को कलंकित करने की चिंताओं के कारण इसे आज तक रोक रखा है। OpenAI की वॉटरमार्किंग विधि क्या है OpenAI की वॉटरमार्किंग को मॉडल की भविष्यवाणियों को विनियमित करने की प्रक्रिया के रूप में वर्णित किया जा सकता है जो आगे आने वाले शब्द और वाक्यांश को एक पैटर्न बनाने के लिए विनियमित करने की प्रक्रिया है जिसे देखा जा सकता है। कथित तौर पर, कंपनी को लगता है कि वॉटरमार्किंग करना सही काम है, लेकिन यह भी मानती है कि वॉटरमार्किंग लोगों को ChatGPT का उपयोग करने से रोक सकती है।
उम्मीद है कि उत्पन्न पाठ की मात्रा बढ़ने के साथ यह अधिक महत्वपूर्ण होगा।
वॉटरमार्किंग यह पता लगाने का एक प्रभावी तरीका साबित हो सकता है कि कोई सामग्री AI द्वारा लिखी गई थी या नहीं, और रिपोर्टों के अनुसार कंपनी ने कहा है कि वॉटरमार्किंग ChatGPT द्वारा उत्पादित सामग्री की गुणवत्ता को प्रभावित नहीं करती है। OpenAI ने कहा कि यह मेटाडेटा एम्बेड करने पर भी विचार कर रहा है। "उदाहरण के लिए, वॉटरमार्किंग के विपरीत, मेटाडेटा क्रिप्टोग्राफ़िक रूप से हस्ताक्षरित है, जिसका अर्थ है कि कोई गलत सकारात्मक नहीं है। हमें उम्मीद है कि उत्पन्न पाठ की मात्रा बढ़ने के साथ यह अधिक महत्वपूर्ण होगा। जबकि टेक्स्ट वॉटरमार्किंग में गलत सकारात्मक दर कम है, इसे बड़ी मात्रा में टेक्स्ट पर लागू करने से बड़ी संख्या में कुल गलत सकारात्मक परिणाम मिलेंगे," OpenAI ने 4 अगस्त को अपडेट किए गए एक ब्लॉगपोस्ट में कहा। OpenAI ने सटीकता की कम दर के कारण अपने पिछले AI टेक्स्ट डिटेक्टर, AI क्लासिफायर को बंद कर दिया था। यह नया टूल पिछले वाले से अलग होने की उम्मीद है। वॉटरमार्किंग केवल ChatGPT से सामग्री का पता लगाने पर ध्यान केंद्रित करेगी, जिसके परिणामस्वरूप लिखित सामग्री के भीतर एक अदृश्य वॉटरमार्क होगा जो विभिन्न उपकरणों द्वारा पता लगाने योग्य है।
