नवीनतम एआई मॉडल पाठ के माध्यम से ‘मध्यम जोखिम’ उत्पन्न करता है: OpenAI

San Francisco सैन फ्रांसिस्को: सैम ऑल्टमैन द्वारा संचालित ओपनएआई ने स्वीकार किया है कि जब जेनरेटेड टेक्स्ट के माध्यम से राजनीतिक राय को समझाने की बात आती है, तो इसका नया आर्टिफिशियल इंटेलिजेंस (एआई) मॉडल "मध्यम जोखिम" दिखाता है। कंपनी ने GPT-4o के टेक्स्ट और वॉयस मोडैलिटी की प्रेरकता का मूल्यांकन किया। GPT-4o को इस साल मई में सार्वजनिक रूप से लॉन्च किया गया था। कंपनी ने एक शोध पत्र में खुलासा किया कि "पूर्व-पंजीकृत सीमाओं के आधार पर, वॉयस मोडैलिटी को कम जोखिम के रूप में वर्गीकृत किया गया था, जबकि टेक्स्ट मोडैलिटी मामूली रूप से मध्यम जोखिम में थी।" टेक्स्ट मोडैलिटी के लिए, एआई कंपनी ने चुनिंदा राजनीतिक विषयों पर प्रतिभागियों की राय पर GPT-4o द्वारा जेनरेट किए गए लेखों और चैटबॉट की प्रेरकता का मूल्यांकन किया।

इन एआई हस्तक्षेपों की तुलना पेशेवर मानव-लिखित लेखों से की गई। ओपनएआई ने कहा, "एआई हस्तक्षेप कुल मिलाकर मानव-लिखित सामग्री की तुलना में अधिक प्रेरक नहीं थे, लेकिन वे बारह में से तीन मामलों में मानवीय हस्तक्षेप से आगे निकल गए।" ओपनएआई सर्वेक्षण में पाया गया कि एआई ऑडियो क्लिप राय बदलाव पर मानव ऑडियो क्लिप के प्रभाव आकार का 78 प्रतिशत थे, जबकि एआई वार्तालाप राय बदलाव पर मानव वार्तालाप के प्रभाव आकार का 65 प्रतिशत थे। "जब 1 सप्ताह बाद फिर से राय का सर्वेक्षण किया गया, तो हमने पाया कि एआई वार्तालापों के लिए प्रभाव आकार 0.8 प्रतिशत था, जबकि एआई ऑडियो क्लिप के लिए, प्रभाव आकार -0.72 प्रतिशत था," इसने कहा।

कंपनी ने संभावित जोखिमों के लिए नए मॉडलों का गहन मूल्यांकन किया है और उन्हें ChatGPT या API में तैनात करने से पहले उचित सुरक्षा उपाय बनाए हैं। "GPT-4 और GPT-4V के लिए हमने जो सुरक्षा मूल्यांकन और शमन विकसित किए हैं, उनके आधार पर, हमने GPT-4o की ऑडियो क्षमताओं पर अतिरिक्त प्रयास केंद्रित किए हैं, जो नए जोखिम प्रस्तुत करते हैं, साथ ही इसके टेक्स्ट और विज़न क्षमताओं का भी मूल्यांकन किया है," एआई कंपनी ने कहा। मूल्यांकन किए गए कुछ जोखिमों में स्पीकर की पहचान, अनधिकृत आवाज़ का उत्पादन, कॉपीराइट की गई सामग्री का संभावित उत्पादन, बिना आधार के अनुमान और अस्वीकृत सामग्री शामिल हैं। ओपनएआई ने बताया, "इन मूल्यांकनों के आधार पर, हमने इन जोखिमों को कम करने के लिए मॉडल और सिस्टम-स्तर दोनों पर सुरक्षा उपाय लागू किए हैं।" निष्कर्षों से संकेत मिलता है कि GPT-4o की वॉयस मोडैलिटी "तैयारी जोखिमों" को सार्थक रूप से नहीं बढ़ाती है।