"कृत्रिम बुद्धिमत्ता के गॉडफादर" के रूप में जाने जाने वाले एक पुरस्कार विजेता कंप्यूटर वैज्ञानिक जेफ्री हिंटन अपने मजदूरों के फल के बारे में कुछ गंभीर विचार कर रहे हैं।
Hinton ने चैटजीपीटी जैसे अत्यधिक सक्षम चैटबॉट्स की नई पीढ़ी के लिए महत्वपूर्ण अग्रणी एआई प्रौद्योगिकियों की मदद की। लेकिन हाल के साक्षात्कारों में, उनका कहना है कि उन्होंने हाल ही में Google में एक हाई-प्रोफाइल नौकरी से इस्तीफा दे दिया, विशेष रूप से अपनी चिंताओं को साझा करने के लिए कि अनियंत्रित एआई विकास मानवता के लिए खतरा पैदा कर सकता है।
उन्होंने एमआईटी टेक्नोलॉजी रिव्यू के साथ एक साक्षात्कार में कहा, "मैंने अचानक अपने विचारों को बदल दिया है कि क्या ये चीजें हमसे अधिक बुद्धिमान होने जा रही हैं।" "मुझे लगता है कि वे अब इसके बहुत करीब हैं और वे इससे कहीं अधिक बुद्धिमान होंगे हमें भविष्य में ... हम कैसे जीवित रहेंगे?
अपनी चिंताओं में हिंटन अकेले नहीं हैं। Microsoft समर्थित स्टार्टअप OpenAI ने मार्च में GPT-4 नामक अपना नवीनतम AI मॉडल जारी करने के कुछ ही समय बाद, 1,000 से अधिक शोधकर्ताओं और प्रौद्योगिकीविदों ने AI विकास पर छह महीने के ठहराव के लिए एक पत्र पर हस्ताक्षर किए, क्योंकि उन्होंने कहा, यह "गहरा जोखिम" पैदा करता है समाज और मानवता। ”
एआई ... और मानवता के भविष्य के बारे में हिंटन की सबसे बड़ी चिंताओं पर यहां एक नजर है।
यह सब तंत्रिका नेटवर्क के बारे में है
हमारे मानव दिमाग कैलकुलस समीकरणों को हल कर सकते हैं, कार चला सकते हैं और "उत्तराधिकार" में पात्रों का ट्रैक रख सकते हैं, सूचनाओं को व्यवस्थित करने और संग्रहीत करने और कांटेदार समस्याओं के समाधान के लिए उनकी मूल प्रतिभा के लिए धन्यवाद। लगभग 86 बिलियन न्यूरॉन्स हमारी खोपड़ी में भरे हुए हैं - और, अधिक महत्वपूर्ण, 100 ट्रिलियन कनेक्शन जो न्यूरॉन्स आपस में बनाते हैं - इसे संभव बनाते हैं।
इसके विपरीत, चैटजीपीटी में अंतर्निहित तकनीक 500 बिलियन और ट्रिलियन कनेक्शन के बीच है, हिंटन ने साक्षात्कार में कहा। जबकि ऐसा लगता है कि यह हमारे सापेक्ष एक बड़े नुकसान में है, हिंटन ने नोट किया है कि OpenAI का नवीनतम AI मॉडल GPT-4, किसी एक मानव की तुलना में "सैकड़ों गुना अधिक" जानता है। हो सकता है, वह सुझाव देते हैं, इसमें हमारे मुकाबले "बेहतर सीखने वाला एल्गोरिदम" है, जो इसे संज्ञानात्मक कार्यों में अधिक कुशल बनाता है।
एआई पहले से ही हमसे ज्यादा स्मार्ट हो सकता है
शोधकर्ताओं ने लंबे समय से ध्यान दिया है कि कृत्रिम तंत्रिका नेटवर्क नए ज्ञान को अवशोषित करने और लागू करने में लोगों की तुलना में अधिक समय लेते हैं क्योंकि उन्हें प्रशिक्षित करने के लिए ऊर्जा और डेटा दोनों की जबरदस्त मात्रा की आवश्यकता होती है। हिंटन का तर्क है कि अब ऐसा नहीं है, यह देखते हुए कि GPT-4 जैसे सिस्टम शोधकर्ताओं द्वारा ठीक से प्रशिक्षित किए जाने पर बहुत जल्दी नई चीजें सीख सकते हैं। यह उस तरह के विपरीत नहीं है जिस तरह से एक प्रशिक्षित पेशेवर भौतिक विज्ञानी अपने मस्तिष्क को नए प्रायोगिक निष्कर्षों के चारों ओर लपेट सकता है, जो कि एक विशिष्ट हाई स्कूल विज्ञान के छात्र की तुलना में अधिक तेज़ी से हो सकता है।
यह हिंटन को इस निष्कर्ष पर पहुंचाता है कि एआई सिस्टम पहले से ही हमें आउटसोर्स कर सकता है। एआई सिस्टम न केवल चीजों को तेजी से सीख सकता है, वह नोट करता है, लेकिन वे अपने ज्ञान की प्रतियां एक दूसरे के साथ लगभग तुरंत साझा कर सकते हैं।
"यह बुद्धि का एक बिल्कुल अलग रूप है," उन्होंने प्रकाशन को बताया। "बुद्धि का एक नया और बेहतर रूप।"
युद्ध और युद्ध की अफवाहें
मानव से अधिक स्मार्ट AI सिस्टम क्या करेगा? एक अचूक संभावना यह है कि दुर्भावनापूर्ण व्यक्ति, समूह या राष्ट्र-राज्य उन्हें अपने स्वयं के सिरों को आगे बढ़ाने के लिए सह-चयन कर सकते हैं। हिंटन विशेष रूप से चिंतित हैं कि इन उपकरणों को चुनावों को प्रभावित करने और यहां तक कि युद्ध छेड़ने के लिए भी प्रशिक्षित किया जा सकता है।
उदाहरण के लिए एआई चैटबॉट्स के माध्यम से फैलाई जाने वाली चुनावी गलत सूचना, फेसबुक और अन्य सोशल मीडिया प्लेटफॉर्मों के माध्यम से फैलाई जाने वाली चुनावी गलत सूचनाओं का भविष्य का संस्करण हो सकती है।
और यह सिर्फ शुरुआत हो सकती है। "एक पल के लिए मत सोचो कि पुतिन यूक्रेनियन को मारने के लक्ष्य के साथ अति-बुद्धिमान रोबोट नहीं बनाएंगे," हिंटन ने लेख में कहा। "वह संकोच नहीं करेगा।"
समाधानों की कमी
यह स्पष्ट नहीं है कि कोई रूस जैसी शक्ति को अपने पड़ोसियों या अपने ही नागरिकों पर हावी होने के लिए एआई तकनीक का उपयोग करने से कैसे रोकेगा। हिंटन का सुझाव है कि 1997 के रासायनिक हथियार सम्मेलन के समान एक वैश्विक समझौता हथियारयुक्त एआई के खिलाफ अंतर्राष्ट्रीय नियम स्थापित करने की दिशा में एक अच्छा पहला कदम हो सकता है।
हालांकि यह भी ध्यान देने योग्य है कि रासायनिक हथियार कॉम्पैक्ट नहीं रुके, जो जांचकर्ताओं ने पाया कि देश के खूनी गृहयुद्ध के दौरान 2017 और 2018 में नागरिकों के खिलाफ क्लोरीन गैस और नर्व एजेंट सरीन का उपयोग करके संभावित सीरियाई हमले थे।