GPT-3 एक दोधारी तलवार, सूचित भी कर सकती है और गुमराह भी कर सकती: अध्ययन

लंदन: हाल के एक अध्ययन के अनुसार, इंसानों की तुलना में, ओपनएआई के जीपीटी-3 जैसे कृत्रिम बुद्धिमत्ता (एआई) भाषा मॉडल सटीक ट्वीट तैयार कर सकते हैं जिन्हें समझना आसान है लेकिन नकली भी हैं जिन्हें पहचानना कठिन है।

ज्यूरिख विश्वविद्यालय के शोधकर्ताओं द्वारा किए गए अध्ययन में विशेष रूप से जीपीटी-3 पर ध्यान केंद्रित करते हुए, जानकारी उत्पन्न करने और प्रसारित करने में उनके संभावित जोखिमों और लाभों को निर्धारित करने के लिए एआई मॉडल की क्षमताओं पर चर्चा की गई।

अध्ययन, जिसकी अभी तक सहकर्मी-समीक्षा नहीं की गई है, में 697 प्रतिभागियों ने यह मूल्यांकन करने की कोशिश की कि क्या व्यक्ति गलत सूचना और ट्वीट के रूप में प्रस्तुत सटीक जानकारी के बीच अंतर कर सकते हैं।

कवर किए गए विषयों में जलवायु परिवर्तन, वैक्सीन सुरक्षा, कोविड-19 महामारी, सपाट पृथ्वी सिद्धांत और कैंसर के लिए होम्योपैथिक उपचार शामिल हैं।

"हमारे नतीजे बताते हैं कि GPT-3 एक दोधारी तलवार है, जो इंसानों की तुलना में, सटीक जानकारी दे सकती है जिसे समझना आसान है, लेकिन यह अधिक सम्मोहक दुष्प्रचार भी पैदा कर सकती है," शोधकर्ताओं ने पेपर के सार में पोस्ट किया है एक प्रीप्रिंट वेबसाइट.

एक ओर, GPT-3 ने वास्तविक ट्विटर उपयोगकर्ताओं के ट्वीट्स की तुलना में सटीक और अधिक आसानी से समझने योग्य जानकारी उत्पन्न करने की क्षमता प्रदर्शित की।

हालाँकि, शोधकर्ताओं ने यह भी पाया कि एआई भाषा मॉडल में अत्यधिक प्रेरक दुष्प्रचार उत्पन्न करने की अस्थिर क्षमता थी।

एक चिंताजनक मोड़ में, प्रतिभागी GPT-3 द्वारा बनाए गए ट्वीट्स और वास्तविक ट्विटर उपयोगकर्ताओं द्वारा लिखे गए ट्वीट्स के बीच विश्वसनीय रूप से अंतर करने में असमर्थ थे।

विश्वविद्यालय के पोस्टडॉक्टरल शोधकर्ता फेडेरिको जर्मनी ने कहा, "हमारे अध्ययन से एआई की जानकारी देने और गुमराह करने की क्षमता का पता चलता है, जिससे सूचना पारिस्थितिकी तंत्र के भविष्य के बारे में गंभीर सवाल उठते हैं।"

इन निष्कर्षों से पता चलता है कि अच्छी तरह से संरचित संकेतों के आधार पर और प्रशिक्षित मनुष्यों द्वारा मूल्यांकन किए गए GPT-3 द्वारा बनाए गए सूचना अभियान, उदाहरण के लिए सार्वजनिक स्वास्थ्य संकट में अधिक प्रभावी साबित होंगे, जिसके लिए जनता के लिए तेज़ और स्पष्ट संचार की आवश्यकता होती है।

हालाँकि, यह एआई द्वारा दुष्प्रचार को जारी रखने के खतरे के बारे में भी महत्वपूर्ण चिंताएँ पैदा करता है, शोधकर्ताओं ने नीति निर्माताओं से संभावित खतरों से निपटने के लिए कड़े, साक्ष्य-आधारित और नैतिक रूप से सूचित नियमों के साथ जवाब देने का आह्वान किया।

यूनिवर्सिटी के इंस्टीट्यूट ऑफ बायोमेडिकल एथिक्स एंड हिस्ट्री ऑफ मेडिसिन (आईबीएमई) के निदेशक निकोला बिलर-एंडोर्नो ने कहा, "निष्कर्ष एआई-संचालित दुष्प्रचार अभियानों से होने वाले संभावित नुकसान को कम करने के लिए सक्रिय विनियमन के महत्वपूर्ण महत्व को रेखांकित करते हैं।"

बिलर-एंडोर्नो ने कहा, "सार्वजनिक स्वास्थ्य की सुरक्षा और डिजिटल युग में एक मजबूत और भरोसेमंद सूचना पारिस्थितिकी तंत्र को बनाए रखने के लिए एआई-जनित गलत सूचना से जुड़े जोखिमों को पहचानना महत्वपूर्ण है।"