बॉट्स और पूर्वाग्रह

चैटबॉट्स के प्रसार के साथ, इससे उत्पन्न होने वाली कीटाणुशोधन पर नैतिक आतंक बढ़ रहा है। वायर्ड ने इस साल की शुरुआत में बताया था कि स्पेन में क्षेत्रीय चुनाव कैसे हुए - वे मई में हुए थे - मैड्रिड में एक मीडिया हाउस ने राजनेताओं के बयानों की तथ्य-जांच चुनाव रिपोर्टों की विस्तृत व्यवस्था की, साथ ही गलत सूचनाओं को खारिज करने के लिए एक टीम को तैनात किया। (https://www.wired.co.uk/article/fact-checkers-ai-chatgpt-misinformation)। ChatGPT जैसे चैटबॉट्स का आगमन कार्य को और अधिक कठिन बना रहा है क्योंकि यह "एक बटन के क्लिक पर प्राकृतिक-ध्वनि वाला पाठ उत्पन्न कर सकता है, अनिवार्य रूप से गलत सूचना के उत्पादन को स्वचालित कर सकता है।" फैक्ट-चेकर्स अब इसका मुकाबला करने के लिए अपने स्वयं के भाषा मॉडल विकसित कर रहे हैं।

क्या चुनाव - चाहे वे किसी भी देश में हों - तेजी से तकनीक के उपयोग की संभावना को बढ़ा रहे हैं जो पिच को अलग करना चाहता है? फरवरी 2014 में फेसबुक द्वारा व्हाट्सएप का अधिग्रहण और उसके बाद भारत में इसकी त्वरित वृद्धि (जियो के माध्यम से स्मार्टफोन और इंटरनेट कनेक्शन के प्रसार के साथ मुफ्त इंटरनेट के उद्घाटन प्रस्ताव के साथ सक्षम) का मतलब था कि मैसेजिंग ऐप के जुलाई तक भारत में 400 मिलियन से अधिक उपयोगकर्ता थे। 2019. उस साल के चुनावों में भारतीय जनता पार्टी के पैदल सैनिकों द्वारा बड़ी मेहनत से व्हाट्सएप ग्रुप बनाए गए और चुनावों की अगुवाई में हाथ बंटाए गए।

इसका उपयोग मोबाइल फोन और सोशल मीडिया का उपयोग करके एकल-दिमाग वाले संदेश भेजने के लिए किया गया, जिससे मीडिया और राजनीति के अभ्यास के बीच संबंधों को नया रूप देने में मदद मिली। बीजेपी के आईटी सेल के प्रमुख अमित मालवीय अगस्त 2018 में इकोनॉमिक टाइम्स को दिए एक इंटरव्यू में भविष्यवाणी कर रहे थे कि आगामी चुनाव मोबाइल फोन पर लड़े जाएंगे. उन्होंने "व्हाट्सएप चुनाव" शब्द गढ़ा। जनवरी 2019 में, टाइम पत्रिका की एक रिपोर्ट ने ऑपरेशन का वर्णन किया (https://time.com/5512032/whatsapp-india-election-2019/)।

आईटी सेल ने 2018 के कर्नाटक चुनाव को ट्रायल रन माना था। इकोनॉमिक टाइम्स के लेख में कहा गया है कि बीजेपी पार्टी के कार्यकर्ताओं और सोशल मीडिया स्वयंसेवकों ने अपनी पहुंच के लिए 23,000 से 25,000 व्हाट्सएप ग्रुप बनाए। इनमें सावधानीपूर्वक तैयार किए गए प्रचार वीडियो शामिल थे जो विपक्ष को बदनाम करने के साथ-साथ मतदाताओं को संगठित करने वाले संदेश भी थे। छवि निर्माण और छवि विनाश के दोहरे लक्ष्यों के साथ 2012 में शुरू हुए एक आईटी सेल ने इन सबका मास्टरमाइंड किया था।

जनरेटिव आर्टिफिशियल इंटेलिजेंस के तेजी से प्रसार के साथ आज जो बदल गया है, वह यह है कि यह तकनीक गलत सूचना के पैमाने ला सकती है। जब चैटबॉट मानवीय पूर्वाग्रह को बढ़ाते हैं तो वे शक्तिशाली हथियार बन जाते हैं।

इस साल की शुरुआत में, द न्यूयॉर्क टाइम्स ने देखा कि किस तरह से गलत सूचना देने वाले शोधकर्ता चैटजीपीटी का उपयोग कर रहे थे "स्वच्छ, ठोस पाठ बनाने के लिए जो बार-बार साजिश के सिद्धांतों और भ्रामक आख्यानों का निर्माण करता है।" इस प्रकार न्यूजगार्ड जैसे नाम वाली कंपनियां ऑनलाइन गलत सूचनाओं को ट्रैक करने के लिए उभर रही हैं। और उनके हाथ में एक चुनौती है क्योंकि झूठे आख्यानों को गढ़ना अब बड़े पैमाने पर किया जा सकता है।

एआई को कैसे विनियमित किया जा सकता है यह भी एक माइनफ़ील्ड बन जाएगा।

इस महीने की शुरुआत में, दिल्ली स्थित मीडिया फाउंडेशन के पास पत्रकारों का एक समूह था, जो यह बताता था कि जनरेटिव एआई पत्रकारिता में एआई के उपयोग को कैसे बढ़ा सकता है और इससे आने वाली चुनौतियाँ। सामग्री की विश्वसनीयता अधिक होने के कारण गलत सूचना के स्तर और सीमा के बारे में कुछ चिंता थी जो इसके परिणामस्वरूप हो सकती है। आवश्यक तथ्य-जाँच का पैमाना तेजी से बढ़ेगा क्योंकि समाचार मीडिया भरोसे के कारोबार में है। तथ्य-जांच न केवल एआई द्वारा उत्पन्न पाठ और चित्रों के लिए है बल्कि आम चुनाव में खिलाड़ियों द्वारा किए गए दावों की विश्वसनीयता के लिए भी है। एक संपादक ने कहा कि तथ्य-जाँच करने वाली टीमें पहले से ही अभिभूत थीं। और एक तकनीकी पत्रकार ने एआई पूर्वाग्रह और इसे निष्पक्ष करने के तरीके को देखने के लिए तकनीक के साथ खेलने की आवश्यकता के बारे में बात की।

इस साल जनवरी में, "जनरेटिव लैंग्वेज मॉडल्स एंड ऑटोमेटेड इन्फ्लुएंस ऑपरेशंस: इमर्जिंग थ्रेट्स एंड पोटेंशियल मिटिगेशन्स" शीर्षक से एक रिपोर्ट प्रकाशित हुई थी (https://arxiv.org/pdf/2301.04246.pdf)। दुष्प्रचार के लिए व्यंजना 'प्रभाव संचालन' है, और जब कोई चैटबॉट कार्य करता है तो यह एक स्वचालित प्रभाव संचालन होता है। फिर शोधकर्ता शमन के सिद्धांतों को विकसित करते हैं ताकि बॉट द्वारा किए जा सकने वाले नुकसान को कम किया जा सके। यदि प्रचारक एक बड़े भाषा मॉडल का उपयोग कर रहा है, तो शमन में निम्नलिखित कार्य करना शामिल है - एआई डेवलपर्स को ऐसे मॉडल बनाने की आवश्यकता है जो अधिक तथ्य-संवेदनशील हों, डेवलपर्स को जनरेटिव मॉडल को पहचानने योग्य बनाने के लिए रेडियोधर्मी डेटा फैलाना होगा, और सरकारों को इस पर प्रतिबंध लगाना होगा डेटा संग्रह के साथ-साथ एआई हार्डवेयर पर अभिगम नियंत्रण स्थापित करना।

यदि प्रचारकों को ऐसे भाषा मॉडल तक विश्वसनीय पहुंच की आवश्यकता होती है, तो एआई डेवलपर्स को मॉडल रिलीज के आसपास नए मानदंड विकसित करने होंगे और उन्हें स्वीकार करना होगा। अगर दुष्प्रचार का पैमाना बढ़ता है, तो फ़ैक्ट-चेकर्स को भी ऐसा ही करना होगा।

तो क्या यही भविष्य के चुनाव होने जा रहे हैं? विरोधियों को बदनाम करने के लिए बड़े पैमाने पर कंप्यूटिंग शक्ति को तैनात करने वाले लोगों के समूह, और अधिक कंप्यूटिंग प्राप्त करने वाले अन्य समूह

CREDIT NEWS: telegraphindia