4 खतरे जो एआई अग्रणी जेफ्री हिंटन को सबसे ज्यादा चिंतित करते

सैन फ्रांसिस्को: "आर्टिफिशियल इंटेलिजेंस के गॉडफादर" के रूप में जाने जाने वाले एक पुरस्कार विजेता कंप्यूटर वैज्ञानिक जेफ्री हिंटन अपने मजदूरों के फल के बारे में कुछ गंभीर विचार कर रहे हैं।

हिंटन ने चैटजीपीटी जैसे अत्यधिक सक्षम चैटबॉट्स की नई पीढ़ी के लिए महत्वपूर्ण अग्रणी एआई प्रौद्योगिकियों की मदद की। लेकिन हाल के साक्षात्कारों में, उनका कहना है कि उन्होंने हाल ही में Google में एक हाई-प्रोफाइल नौकरी से इस्तीफा दे दिया, विशेष रूप से अपनी चिंताओं को साझा करने के लिए कि अनियंत्रित एआई विकास मानवता के लिए खतरा पैदा कर सकता है।

एमआईटी टेक्नोलॉजी रिव्यू के साथ एक साक्षात्कार में उन्होंने कहा, "मैंने अचानक अपने विचारों को बदल दिया है कि क्या ये चीजें हमारे से अधिक बुद्धिमान होने जा रही हैं"। "मुझे लगता है कि वे अब इसके बहुत करीब हैं और वे भविष्य में हमसे कहीं अधिक बुद्धिमान होंगे...। हम इससे कैसे बचे?”

अपनी चिंताओं में हिंटन अकेले नहीं हैं। Microsoft समर्थित स्टार्टअप OpenAI ने मार्च में GPT-4 नामक अपना नवीनतम AI मॉडल जारी करने के कुछ ही समय बाद, 1,000 से अधिक शोधकर्ताओं और प्रौद्योगिकीविदों ने AI विकास पर छह महीने के ठहराव के लिए एक पत्र पर हस्ताक्षर किए, क्योंकि उन्होंने कहा, यह "गहरा जोखिम" पैदा करता है समाज और मानवता। ”

एआई ... और मानवता के भविष्य के बारे में हिंटन की सबसे बड़ी चिंताओं पर यहां एक नजर है।

यह सब तंत्रिका नेटवर्क के बारे में है

हमारे मानव दिमाग कैलकुलस समीकरणों को हल कर सकते हैं, कार चला सकते हैं और "उत्तराधिकार" में पात्रों का ट्रैक रख सकते हैं, सूचनाओं को व्यवस्थित करने और संग्रहीत करने और कांटेदार समस्याओं के समाधान के लिए उनकी मूल प्रतिभा के लिए धन्यवाद। लगभग 86 बिलियन न्यूरॉन्स हमारी खोपड़ी में भरे हुए हैं - और, अधिक महत्वपूर्ण, 100 ट्रिलियन कनेक्शन जो न्यूरॉन्स आपस में बनाते हैं - इसे संभव बनाते हैं।

इसके विपरीत, चैटजीपीटी में अंतर्निहित तकनीक 500 बिलियन और ट्रिलियन कनेक्शन के बीच है, हिंटन ने साक्षात्कार में कहा। जबकि ऐसा लगता है कि यह हमारे सापेक्ष एक बड़े नुकसान में है, हिंटन ने नोट किया है कि OpenAI का नवीनतम AI मॉडल GPT-4, किसी एक मानव की तुलना में "सैकड़ों गुना अधिक" जानता है। हो सकता है, वह सुझाव देते हैं, इसमें हमारे मुकाबले "बेहतर सीखने वाला एल्गोरिदम" है, जो इसे संज्ञानात्मक कार्यों में अधिक कुशल बनाता है।

एआई पहले से ही हमसे ज्यादा स्मार्ट हो सकता है

शोधकर्ताओं ने लंबे समय से ध्यान दिया है कि कृत्रिम तंत्रिका नेटवर्क लोगों की तुलना में नए ज्ञान को अवशोषित करने और लागू करने में अधिक समय लेते हैं, क्योंकि उन्हें प्रशिक्षित करने के लिए ऊर्जा और डेटा दोनों की जबरदस्त मात्रा की आवश्यकता होती है। अब ऐसा नहीं है, हिंटन का तर्क है, यह देखते हुए कि GPT-4 जैसी प्रणालियाँ शोधकर्ताओं द्वारा ठीक से प्रशिक्षित किए जाने पर बहुत तेज़ी से नई चीज़ें सीख सकती हैं। यह उस तरह से भिन्न नहीं है जिस तरह से एक प्रशिक्षित पेशेवर भौतिक विज्ञानी अपने मस्तिष्क को नए प्रायोगिक निष्कर्षों के चारों ओर लपेट सकता है, जो कि एक विशिष्ट हाई स्कूल विज्ञान के छात्र की तुलना में अधिक तेज़ी से हो सकता है।