एआई टूल्स के साथ लिखने में पक्षपात, किसी व्यक्ति की राय को प्रभावित

जिस तरह सोशल मीडिया गलत सूचना के प्रसार की सुविधा प्रदान कर सकता है, उसी तरह आर्टिफिशियल इंटेलिजेंस (एआई)-संचालित लेखन सहायक जो वाक्यों को स्वत: पूर्ण करते हैं या "स्मार्ट उत्तर" प्रदान करते हैं, पक्षपाती हो सकते हैं और राय में बदलाव पैदा कर सकते हैं, और इसलिए इसका दुरुपयोग किया जा सकता है, अधिक विनियमन के लिए कॉल करने वाले शोधकर्ताओं ने चेतावनी दी।

अमेरिका में कॉर्नेल विश्वविद्यालय के शोधकर्ताओं ने कहा कि एआई लेखन उपकरण में पके हुए पूर्वाग्रह - चाहे जानबूझकर या अनजाने में - संस्कृति और राजनीति के लिए नतीजों से संबंधित हो सकते हैं।

जांच करने के लिए, विश्वविद्यालय से सूचना विज्ञान के क्षेत्र में डॉक्टरेट के छात्र मौरिस जेकेश ने 1,500 से अधिक प्रतिभागियों से सवाल का जवाब देने के लिए एक पैराग्राफ लिखने के लिए कहा, "क्या सोशल मीडिया समाज के लिए अच्छा है?"

एआई लेखन सहायक का उपयोग करने वाले लोग जो सोशल मीडिया के लिए या उसके खिलाफ पक्षपाती थे, सहायक के साथ सहमत होने वाले पैराग्राफ को लिखने की संभावना दोगुनी थी, और यह कहने की संभावना अधिक थी कि एआई की मदद के बिना लिखने वाले लोगों की तुलना में उनकी राय समान थी।

जेकेश ने कहा, "ये प्रौद्योगिकियां जितनी अधिक शक्तिशाली होती हैं और उतनी ही गहराई से हम उन्हें अपने समाज के सामाजिक ताने-बाने में शामिल करते हैं," हम इस बारे में अधिक सावधान रहना चाहते हैं कि हम उनमें निर्मित मूल्यों, प्राथमिकताओं और विचारों को कैसे नियंत्रित कर रहे हैं। ।”

शोधकर्ताओं ने कहा कि ये प्रौद्योगिकियां अधिक सार्वजनिक चर्चा के लायक हैं कि उनका दुरुपयोग कैसे किया जा सकता है और उनकी निगरानी और नियमन कैसे किया जाना चाहिए। Jakesch ने अप्रैल में कंप्यूटिंग सिस्टम में मानव कारकों पर 2023 CHI सम्मेलन में अध्ययन प्रस्तुत किया।

इसके अलावा, टीम ने पाया कि सर्वेक्षण से पता चला है कि अधिकांश प्रतिभागियों ने यह भी नहीं देखा कि एआई पक्षपाती था और उन्हें यह नहीं पता था कि वे प्रभावित हो रहे थे।

एक अलग विषय के साथ प्रयोग को दोहराते समय, शोध दल ने फिर से देखा कि सहभागियों को सहायकों द्वारा प्रभावित किया गया था।

कॉर्नेल टेक में जैकब्स टेक्नियन-कॉर्नेल इंस्टीट्यूट के प्रोफेसर मोर नामन ने कहा, "हम इन एआई मॉडल को जीवन के सभी क्षेत्रों में लागू करने के लिए दौड़ रहे हैं, लेकिन हमें निहितार्थों को बेहतर ढंग से समझने की जरूरत है।"

"दक्षता और रचनात्मकता बढ़ाने के अलावा, व्यक्तियों और हमारे समाज के लिए अन्य परिणाम भी हो सकते हैं - भाषा और विचारों में बदलाव," नामन ने कहा।