Simple सा उदाहरण कि AI कैसे विफल होगा,

टेक्नोलॉजी Technology: कुछ महीने पहले, मैं सौर मंडल में महासागरों के बारे में एक लेख पर काम कर रहा था। पानी के महासागरों के बारे में पढ़ने के बाद, मैंने अन्य चीज़ों, जैसे कि तरल हाइड्रोकार्बन से बने महासागरों के बारे में एक त्वरित जानकारी के लिए Google का रुख किया। अच्छा या बुरा, मैंने "सौर मंडल में महासागर, पानी नहीं" खोजा। मैंने एक विश्वसनीय लिंक की तलाश की, शायद NASA से। इसके बजाय, Google के AI ओवरव्यू फ़ीचर ने एक सुझाव के रूप में Enceladus की सेवा की। यह शनि का चंद्रमा अपने भूमिगत समुद्र के लिए प्रसिद्ध है - खारे पानी का। मैंने निराशा में अपना लैपटॉप बंद कर दिया।

यह एक छोटा सा उदाहरण है कि AI कैसे विफल होता है। अरविंद नारायणन और सयाश कपूर ने अपनी नई किताब, AI स्नेक ऑयल में दर्जनों अन्य लोगों को शामिल किया है - जिनमें से कई के परिणाम एक विज्ञान पत्रकार को परेशान करने से कहीं अधिक चिंताजनक हैं। वे AI उपकरणों के बारे में लिखते हैं जो अकादमिक सफलता, किसी के अपराध करने की संभावना, बीमारी के जोखिम, गृहयुद्ध और कल्याण धोखाधड़ी (SN: 2/20/18) की भविष्यवाणी करने का दावा करते हैं। इस दौरान, लेखक AI से जुड़े कई अन्य मुद्दों को भी जोड़ते हैं, जिसमें गलत सूचना, छवियों और अन्य प्रशिक्षण डेटा के लिए सहमति की कमी, झूठे कॉपीराइट दावे, डीपफेक, गोपनीयता और सामाजिक असमानताओं को मजबूत करना शामिल है (एसएन: 10/24/19)। वे इस बात पर चर्चा करते हैं कि क्या हमें AI से डरना चाहिए, निष्कर्ष निकालते हुए: "हमें इस बात से कहीं अधिक चिंतित होना चाहिए कि लोग AI के साथ क्या करेंगे, बजाय इसके कि AI अपने आप क्या करेगा।"

लेखक स्वीकार करते हैं कि तकनीक तेज़ी से आगे बढ़ रही है। जब तक किताब आपके हाथों में आएगी, तब तक कुछ विवरण पुराने हो सकते हैं - या कम से कम पुरानी खबर हो सकती है। और AI के बारे में स्पष्ट चर्चाओं को AI के अर्थ सहित प्रमुख शब्दों को परिभाषित करने के तरीके पर आम सहमति की कमी से जूझना चाहिए। फिर भी, नारायणन और कपूर अपने घोषित लक्ष्य को पूरी तरह से प्राप्त करते हैं: लोगों को AI को अलग करने के लिए सशक्त बनाना जो AI स्नेक ऑयल से अच्छी तरह से काम करता है, जिसे वे "AI जो विज्ञापित के अनुसार काम नहीं करता और नहीं कर सकता है" के रूप में परिभाषित करते हैं।

नारायणन प्रिंसटन विश्वविद्यालय में एक कंप्यूटर वैज्ञानिक हैं, और कपूर वहां एक पीएच.डी. छात्र हैं। पुस्तक का विचार तब आया जब नारायणन द्वारा 2019 में दिए गए एक भाषण की स्लाइड्स वायरल हो गई जिसका शीर्षक था "AI स्नेक ऑयल को कैसे पहचानें"। उन्होंने कपूर के साथ मिलकर काम किया, जो एक कोर्स कर रहे थे जिसे नारायणन सामाजिक सेटिंग्स में भविष्यवाणी की सीमाओं पर एक अन्य प्रोफेसर के साथ पढ़ा रहे थे।

लेखक सीधे तौर पर AI पर निशाना साधते हैं जो कथित तौर पर भविष्य की घटनाओं की भविष्यवाणी कर सकता है। "यह इस क्षेत्र में है कि सबसे अधिक AI स्नेक ऑयल केंद्रित है," वे लिखते हैं। "भविष्यसूचक AI न केवल आज काम नहीं करता है, बल्कि संभवतः कभी काम नहीं करेगा, क्योंकि मानव व्यवहार की भविष्यवाणी करने में अंतर्निहित कठिनाइयाँ हैं।" वे AI द्वारा सोशल मीडिया की सामग्री मॉडरेशन समस्याओं को हल नहीं करने के कारणों पर एक लंबा अध्याय भी समर्पित करते हैं। (कपूर ने फेसबुक में सामग्री मॉडरेशन के लिए AI बनाने में मदद करने के लिए काम किया था।) एक चुनौती यह है कि AI संदर्भ और बारीकियों के साथ संघर्ष करता है। सोशल मीडिया भी घृणित और खतरनाक सामग्री को बढ़ावा देता है।

लेखक जनरेटिव AI के साथ थोड़े अधिक उदार हैं, अगर इसका इस्तेमाल समझदारी से किया जाए तो इसके मूल्य को पहचानते हैं। लेकिन "बकवास को स्वचालित करना" शीर्षक वाले एक खंड में, लेखक कहते हैं: "चैटजीपीटी किसी भी कल्पनीय विषय पर आश्वस्त करने में आश्चर्यजनक रूप से अच्छा है। लेकिन प्रशिक्षण के दौरान सच्चाई का कोई स्रोत नहीं है।" यह केवल इतना ही नहीं है कि प्रशिक्षण डेटा में झूठ हो सकता है - डेटा ज़्यादातर इंटरनेट टेक्स्ट होता है - बल्कि यह भी है कि प्रोग्राम स्वाभाविक लगने के लिए अनुकूलित है, ज़रूरी नहीं कि ज्ञान रखने या सत्यापित करने के लिए हो। (यही एनसेलेडस की व्याख्या करता है।)

मैं यह भी जोड़ना चाहूँगा कि जनरेटिव एआई पर अत्यधिक निर्भरता आलोचनात्मक सोच को हतोत्साहित कर सकती है, जो इस पुस्तक के मूल में मानवीय गुण है।

जब यह बात आती है कि ये समस्याएँ क्यों मौजूद हैं और उन्हें कैसे बदला जाए, तो नारायणन और कपूर एक स्पष्ट दृष्टिकोण प्रस्तुत करते हैं: समाज तकनीकी उद्योग के प्रति बहुत अधिक विनम्र रहा है। बेहतर विनियमन आवश्यक है। "हम एआई के भविष्य को वर्तमान में प्रभारी लोगों पर छोड़ने के लिए तैयार नहीं हैं," वे लिखते हैं।

यह पुस्तक पढ़ने लायक है चाहे आप नीतिगत निर्णय लें, कार्यस्थल में एआई का उपयोग करें या बस ऑनलाइन खोज करने में समय बिताएँ। यह इस बात का सशक्त अनुस्मारक है कि किस प्रकार एआई ने हमारे जीवन में घुसपैठ कर ली है - और यह इस बात का ठोस निवेदन है कि हम इसके साथ किस प्रकार व्यवहार करते हैं, इस पर ध्यान दें।