बॉट पूर्वाग्रह

'प्रॉम्प्ट' शब्द ने पिछले साल ऑक्सफोर्ड वर्ड ऑफ द ईयर की शॉर्टलिस्ट में अपनी जगह बनाई। इससे केवल यह पता चलता है कि जनरेटिव आर्टिफिशियल इंटेलिजेंस शायद ही कभी खबरों से बाहर रहता है। वैज्ञानिक दृष्टिकोण यह है कि एआई दुनिया को जब्त करने के लिए तैयार है। लेकिन क्या एआई का शासन आकर्षण या तबाही होगा? यह एक ऐसा प्रश्न है जिस पर अवश्य विचार किया जाना चाहिए।

ChatGPT अकर्मण्यता के स्तर पर जोर देता है। ऐसे समय में जब दुनिया भर में समावेशिता और विविधता पर बातचीत चरम पर है, भविष्यवादी एआई, मनुष्यों को पीछे छोड़ते हुए, दुनिया की अपनी कठोर कथा के बारे में मुखर बनी हुई है। चाहे लिंग, राष्ट्रीयता या रंग हो, एआई की एक निर्णायक धारणा है, जो समकालीन दुनिया के विपरीत है।

रेस्ट ऑफ वर्ल्ड द्वारा किए गए एक अध्ययन, जो तकनीकी कहानियों पर रिपोर्ट करता है, में पाया गया कि अधिक लोकप्रिय छवि-पीढ़ी एआई टूल में से एक, मिडजॉर्नी ने नस्लीय प्रोफाइलिंग के मामले में कोई कसर नहीं छोड़ी है। "एक भारतीय व्यक्ति" लगभग हमेशा दाढ़ी वाला एक बूढ़ा व्यक्ति होता है। "एक मैक्सिकन व्यक्ति" आमतौर पर सोम्ब्रेरो में एक आदमी होता है। नई दिल्ली की अधिकांश सड़कें प्रदूषित और कूड़े से भरी हैं। एक गरीब व्यक्ति आमतौर पर काला होता है। भले ही ये बयान पक्षपातपूर्ण लगें, ये मिडजॉर्नी को दिए गए तंत्रिका संकेतों पर आधारित कुछ चिंताजनक अंतर्दृष्टि हैं।

ऐसे पूर्वाग्रह के परिणाम गंभीर हो सकते हैं. इसके चारों ओर उन्माद को देखते हुए, संगठन भर्ती, सुरक्षा, ऋण प्रावधानों आदि को स्वचालित करने के लिए एआई का उपयोग कर रहे हैं। एक एआई-संचालित भर्ती उपकरण की कल्पना करें जो जाति या लिंग की अपनी कथित धारणाओं के आधार पर योग्य उम्मीदवारों को फ़िल्टर करता है। अब कल्पना करना बंद करें - क्योंकि यह पहले ही हो चुका है। अमेज़ॅन की एआई-आधारित नियुक्ति प्रणाली ने महिला आवेदकों के प्रति पूर्वाग्रह पैदा किया और इस प्रकार, इसे समाप्त करना पड़ा। 2022 में, रॉबर्ट विलियम्स अमेरिकी एजेंसियों द्वारा उपयोग की जाने वाली चेहरे की पहचान तकनीक में पूर्वाग्रह के कारण गलत तरीके से गिरफ्तार किए गए पहले दस्तावेजी व्यक्ति बन गए। अध्ययनों में यह भी पाया गया है कि इन चेहरा पहचान प्रणालियों से काले और एशियाई अल्पसंख्यकों की गलत पहचान होने का खतरा है। नियुक्ति के अलावा, एआई पूर्वाग्रहों ने धन के आदान-प्रदान पर भी असर डाला है। शिकागो में एल्गोरिदमिक भेदभाव के कारण काले पड़ोस के निवासियों को ऋण देने से इनकार कर दिया गया है। जब एआई सिस्टम का उपयोग स्वचालित रूप से ऋण स्वीकृत करने के लिए किया जाता है, तो प्रशिक्षण सामग्री में अंतर्निहित ऐतिहासिक पूर्वाग्रहों को देखते हुए हाशिए पर रहने वाले समुदायों के व्यक्तियों को ऋण देने से इनकार करने का जोखिम होता है।

एक एक्स (पूर्व में ट्विटर) उपयोगकर्ता के दिलचस्प तीखे संकेत के जवाब में, चैटजीपीटी ने कहा कि "गोरे" और "पुरुष" एक अच्छे वैज्ञानिक की विशेषताएं हैं। मिशिगन विश्वविद्यालय के एक अन्य अध्ययन से पता चला है कि ओपन एआई का सीएलआईपी कम आय और गैर-पश्चिमी जीवन शैली को कम सटीक रूप से चित्रित करता है। इसके अलावा, अफ्रीकी देशों के प्रति भौगोलिक पूर्वाग्रह की भी पहचान की गई।

लेकिन एआई इतना विकृत और मनमौजी क्यों है? इसे डेटा गैप पर दोष दें। यह एक तथ्य है कि एआई जो कुछ भी उत्पन्न करता है वह उस डेटा पर आधारित होता है जिस पर उसे प्रशिक्षित किया जाता है। और क्या? यह डेटा मनुष्यों द्वारा बनाया गया है और जो कुछ भी प्रचलन में है, उससे इकट्ठा किया गया है। अल्पसंख्यकों और रंग और विविधता के लोगों को हमेशा निष्पक्ष प्रतिनिधित्व के लिए संघर्ष करना पड़ा है: यह लड़ाई अब एआई के क्षेत्र में फैल गई है।

ऐसे समय में जब हमारे सामाजिक ताने-बाने में पूर्वाग्रहों को चुनौती दी जा रही है, जेनरेटिव एआई, अपनी वर्तमान स्थिति में, हमें इतिहास के गहरे रंगों में वापस ले जाता हुआ प्रतीत होता है। लेकिन एआई जो डेटा हम पर उछाल रहा है वह मनगढ़ंत नहीं है। वे उन पूर्वाग्रहों को प्रतिबिंबित करते हैं जो समाज को ही पीड़ित करते हैं।

जबकि एआई के पूर्वाग्रह एक परेशान करने वाली तस्वीर पेश करते हैं, वे एक अवसर भी पेश करते हैं। इन पूर्वाग्रहों को उजागर और खत्म करके, हम एक ऐसे भविष्य का मार्ग प्रशस्त कर सकते हैं जहां एआई मानवता की विविधता और समृद्धि को दर्शाते हुए भलाई के लिए एक ताकत बन जाएगा। मशीनों में कोडित होने से पहले विशेषज्ञों को समाज से संबंधित एल्गोरिदम को फिर से लिखना चाहिए।

credit news: telegraphindia