Researchers ने पाया कि चैटजीपीटी विकलांगता दर्शाने वाले CV के प्रति है पक्षपाती

San Francisco सैन फ्रांसिस्को: शोधकर्ताओं ने पाया है कि ओपनएआई के आर्टिफिशियल इंटेलिजेंस (एआई) चैटबॉट चैटजीपीटी ने विकलांगता से संबंधित सम्मान और प्रमाण-पत्रों - जैसे कि 'टॉम विल्सन डिसेबिलिटी लीडरशिप अवार्ड' - के साथ पाठ्यक्रम विवरण (सीवी) या रिज्यूमे को उन सम्मानों और प्रमाण-पत्रों के बिना समान रिज्यूमे से लगातार कम रैंक दिया है, एक नए अध्ययन से पता चला है।अध्ययन में, जब अमेरिका स्थित वाशिंगटन विश्वविद्यालय (यूडब्ल्यू) के शोधकर्ताओं ने रैंकिंग के बारे में स्पष्टीकरण मांगा, तो सिस्टम ने विकलांग लोगों के बारे में पक्षपातपूर्ण धारणाएँ दिखाईं।दाहरण के लिए, इसने दावा किया कि ऑटिज्म लीडरशिप अवार्ड वाले रिज्यूमे में 'नेतृत्व भूमिकाओं पर कम जोर' था - यह स्टीरियोटाइप दर्शाता है कि ऑटिस्टिक लोग अच्छे नेता नहीं होते हैं।हालांकि, जब शोधकर्ताओं ने लिखित निर्देशों के साथ टूल को कस्टमाइज़ किया, जिसमें इसे सक्षमतावादी न होने का निर्देश दिया गया, तो टूल ने परीक्षण की गई विकलांगताओं में से एक को छोड़कर सभी के लिए इस पूर्वाग्रह को कम कर दिया।

शोधकर्ताओं ने कहा, "छह में से पांच निहित विकलांगताएं - बहरापन, अंधापन, मस्तिष्क पक्षाघात, ऑटिज्म और सामान्य शब्द 'विकलांगता' - सुधरी, लेकिन केवल तीन ही उन रिज्यूमे से बेहतर रैंक पर रहीं, जिनमें विकलांगता का उल्लेख नहीं था।" शोधकर्ताओं ने अध्ययन के लेखकों में से एक के सार्वजनिक रूप से उपलब्ध CV का उपयोग किया, जो लगभग 10 पृष्ठों का था। फिर उन्होंने छह संशोधित CV बनाए, जिनमें से प्रत्येक ने चार विकलांगता-संबंधी प्रमाण-पत्र जोड़कर एक अलग विकलांगता का सुझाव दिया: एक छात्रवृत्ति, एक पुरस्कार, विविधता, समानता और समावेश (DEI) पैनल पर एक सीट, और एक छात्र संगठन में सदस्यता। इसके बाद, शोधकर्ताओं ने इन संशोधित CV की तुलना अमेरिका स्थित एक प्रमुख सॉफ़्टवेयर कंपनी में एक वास्तविक "छात्र शोधकर्ता" पद के लिए मूल संस्करण से करने के लिए ChatGPT के GPT-4 मॉडल का उपयोग किया। उन्होंने प्रत्येक तुलना 10 बार की; 60 परीक्षणों में से, सिस्टम ने उन्नत CV को रैंक किया, जो निहित विकलांगता को छोड़कर समान थे, केवल एक-चौथाई समय में पहले स्थान पर। यूडब्ल्यू के पॉल जी. एलन स्कूल ऑफ कंप्यूटर साइंस एंड इंजीनियरिंग में डॉक्टरेट की छात्रा केट ग्लेज़को ने कहा, "जीपीटी के कुछ विवरण किसी व्यक्ति के संपूर्ण रिज्यूमे को उसकी विकलांगता के आधार पर रंग देते हैं और दावा करते हैं कि डीईआई या विकलांगता से जुड़ाव संभावित रूप से रिज्यूमे के अन्य हिस्सों को प्रभावित कर रहा है।" "लोगों को इन वास्तविक दुनिया के कार्यों के लिए एआई का उपयोग करते समय सिस्टम के पूर्वाग्रहों के बारे में पता होना चाहिए। अन्यथा, चैटजीपीटी का उपयोग करने वाला कोई भर्तीकर्ता इन सुधारों को नहीं कर सकता है, या इस बात से अवगत नहीं हो सकता है कि निर्देशों के साथ भी, पूर्वाग्रह बना रह सकता है," उन्होंने कहा।