Ethics vs Innovation: चैटबॉट्स और गुप्त सोशल टेस्टिंग

Science: ज्यूरिख विश्वविद्यालय के शोधकर्ताओं ने एक गुप्त प्रयोग में, जो अब कानूनी खतरों को जन्म दे रहा है, कृत्रिम बुद्धिमत्ता (AI) बॉट का उपयोग यह जांचने के लिए किया कि वे Reddit पर लोगों की राय को कितने प्रभावी ढंग से प्रभावित कर सकते हैं - यह सब उपयोगकर्ता की सहमति के बिना। बॉट ने सबरेडिट r/ChangeMyView में घुसपैठ की, जिसके लगभग चार मिलियन सदस्य हैं और जो विवादास्पद विषयों पर नागरिक बहस को सुविधाजनक बनाने के लिए मौजूद है। समय के साथ, इन AI एजेंटों ने वास्तविक उपयोगकर्ताओं के रूप में प्रस्तुत करते हुए 1,700 से अधिक टिप्पणियाँ पोस्ट कीं, जिनमें आघात को कम करने वाले एक पुरुष बलात्कार पीड़ित से लेकर ब्लैक लाइव्स मैटर की आलोचना करने वाले एक अश्वेत व्यक्ति तक शामिल थे। सबरेडिट उपयोगकर्ताओं में से किसी को भी यह नहीं बताया गया कि ये पोस्ट कृत्रिम बुद्धिमत्ता द्वारा बनाई गई थीं।

AI चैटबॉट ने गुप्त अध्ययन में Reddit उपयोगकर्ताओं को मूर्ख बनाया, जिससे कानूनी और नैतिक विवाद पैदा हो गया 404 मीडिया की एक रिपोर्ट के अनुसार, अध्ययन के निष्कर्षों की घोषणा प्रयोग समाप्त होने के बाद ही की गई थी; सबरेडिट के शोधकर्ताओं और मॉडरेटर ने अपनी गतिविधियों का खुलासा किया और अपने परिणामों के मसौदे से लिंक किया। ड्राफ्ट में उल्लेख किया गया है कि ये बॉट मानव टिप्पणीकारों की तुलना में तीन से छह गुना अधिक प्रेरक थे, जिसका आकलन Reddit की बदली हुई राय के लिए पुरस्कार प्रणाली के माध्यम से किया गया। प्रतिक्रियाओं को अनुकूलित करने के लिए, एक कृत्रिम बुद्धिमत्ता ने उपयोगकर्ता इतिहास को देखा, जिससे प्रभाव में वृद्धि हुई। आश्चर्यजनक रूप से, Reddit उपयोगकर्ताओं में से कोई भी यह विश्वास नहीं करता था कि कृत्रिम बुद्धिमत्ता ने टिप्पणियाँ लिखी हैं। आपत्तियों को नोट करने के बाद, विश्वविद्यालय ने 404 मीडिया को सलाह दी कि वह शोध के निष्कर्षों को प्रकाशित नहीं करेगा। नैतिकता समिति ने भविष्य की शोध पहलों में इसी तरह की त्रुटियों को रोकने के लिए दिशा-निर्देशों को अपडेट किया है। परिणाम यह सवाल उठाते हैं कि कृत्रिम बुद्धिमत्ता ऑनलाइन चर्चा को कैसे आकार देती है, खासकर संवेदनशील या राजनीतिक संदर्भों में। रेडिट का मामला “मृत इंटरनेट सिद्धांत” को पुष्ट करता है - कि एआई-लिखित पाठ अब वेब पर हावी है।