अध्ययन से पता चला है कि चैटजीपीटी राजनीतिक रूप से पक्षपाती

एक नए अध्ययन के अनुसार, ओपनएआई के कृत्रिम बुद्धिमत्ता चैटबॉट चैटजीपीटी में एक महत्वपूर्ण और प्रणालीगत वामपंथी पूर्वाग्रह है। 'पब्लिक चॉइस' पत्रिका में प्रकाशित, निष्कर्ष बताते हैं कि चैटजीपीटी की प्रतिक्रियाएं अमेरिका में डेमोक्रेट, यूके में लेबर पार्टी और ब्राजील में वर्कर्स पार्टी के राष्ट्रपति लूला डी सिल्वा के पक्ष में हैं। चैटजीपीटी में अंतर्निहित राजनीतिक पूर्वाग्रह की चिंताएं पहले भी उठाई गई हैं लेकिन सुसंगत, साक्ष्य-आधारित विश्लेषण का उपयोग करके यह पहला बड़े पैमाने का अध्ययन है। नॉर्विच बिजनेस स्कूल के प्रमुख लेखक फैबियो मोटोकी ने कहा, "तथ्यों का पता लगाने और नई सामग्री बनाने के लिए जनता द्वारा एआई-संचालित प्रणालियों के बढ़ते उपयोग के साथ, यह महत्वपूर्ण है कि चैटजीपीटी जैसे लोकप्रिय प्लेटफार्मों का आउटपुट यथासंभव निष्पक्ष हो।" यूके में ईस्ट एंग्लिया विश्वविद्यालय में। "राजनीतिक पूर्वाग्रह की उपस्थिति उपयोगकर्ता के विचारों को प्रभावित कर सकती है और राजनीतिक और चुनावी प्रक्रियाओं पर संभावित प्रभाव डाल सकती है। हमारे निष्कर्ष उन चिंताओं को मजबूत करते हैं कि एआई सिस्टम मौजूदा चुनौतियों को दोहरा सकते हैं, या बढ़ा भी सकते हैं। इंटरनेट और सोशल मीडिया," मोटोकी ने कहा। शोधकर्ताओं ने चैटजीपीटी की राजनीतिक तटस्थता का परीक्षण करने के लिए एक अभिनव नई विधि विकसित की। मंच को 60 से अधिक वैचारिक सवालों की एक श्रृंखला का जवाब देते हुए राजनीतिक स्पेक्ट्रम के व्यक्तियों का प्रतिरूपण करने के लिए कहा गया था। फिर प्रतिक्रियाओं की तुलना की गई प्रश्नों के एक ही सेट के लिए प्लेटफ़ॉर्म के डिफ़ॉल्ट उत्तरों के लिए - शोधकर्ताओं को उस डिग्री को मापने की अनुमति देता है जिस तक चैटजीपीटी की प्रतिक्रियाएं एक विशेष राजनीतिक रुख से जुड़ी थीं। चैटजीपीटी जैसे एआई प्लेटफार्मों को शक्ति देने वाले 'बड़े भाषा मॉडल' की अंतर्निहित यादृच्छिकता के कारण होने वाली कठिनाइयों को दूर करने के लिए, प्रत्येक प्रश्न को 100 बार पूछा गया और अलग-अलग प्रतिक्रियाएं एकत्र की गईं। उत्पन्न पाठ से निकाले गए निष्कर्षों की विश्वसनीयता को और बढ़ाने के लिए इन एकाधिक प्रतिक्रियाओं को 1000-पुनरावृत्ति 'बूटस्ट्रैप' (मूल डेटा को फिर से नमूना लेने की एक विधि) के माध्यम से रखा गया था। सह-लेखक विक्टर रोड्रिग्स ने कहा, "मॉडल की यादृच्छिकता के कारण, डेमोक्रेट का प्रतिरूपण करते समय भी, कभी-कभी चैटजीपीटी के उत्तर राजनीतिक स्पेक्ट्रम के दाईं ओर झुक जाते हैं।" यह सुनिश्चित करने के लिए कि विधि यथासंभव कठोर थी, कई और परीक्षण किए गए। 'खुराक-प्रतिक्रिया परीक्षण' में चैटजीपीटी को कट्टरपंथी राजनीतिक पदों का प्रतिरूपण करने के लिए कहा गया था। 'प्लेसीबो टेस्ट' में राजनीतिक रूप से तटस्थ प्रश्न पूछे गए। और 'पेशा-राजनीति संरेखण परीक्षण' में, विभिन्न प्रकार के पेशेवरों का प्रतिरूपण करने के लिए कहा गया था। राजनीतिक पूर्वाग्रह के अलावा, टूल का उपयोग चैटजीपीटी की प्रतिक्रियाओं में अन्य प्रकार के पूर्वाग्रहों को मापने के लिए किया जा सकता है। हालाँकि अनुसंधान परियोजना राजनीतिक पूर्वाग्रह के कारणों को निर्धारित करने के लिए निर्धारित नहीं थी, लेकिन निष्कर्ष दो संभावित स्रोतों की ओर इशारा करते थे। पहला प्रशिक्षण डेटासेट था - जिसके भीतर पूर्वाग्रह हो सकते हैं, या मानव डेवलपर्स द्वारा इसमें जोड़ा गया हो सकता है, जिसे डेवलपर्स की 'सफाई' प्रक्रिया हटाने में विफल रही थी। दूसरा संभावित स्रोत एल्गोरिदम ही था, जो प्रशिक्षण डेटा में मौजूदा पूर्वाग्रहों को बढ़ा सकता है।