"इससे पहले कि AI हमसे ज्यादा स्मार्ट हो जाए...'': 'AI के गॉडफादर' ने सरकारों से मशीन अधिग्रहण रोकने का आग्रह किया
कृत्रिम बुद्धिमत्ता के तथाकथित गॉडफादरों में से एक जेफ्री हिंटन ने बुधवार को सरकारों से आग्रह किया कि वे आगे आएं और सुनिश्चित करें कि मशीनें समाज पर नियंत्रण न कर लें।
हिंटन ने मई में तब सुर्खियां बटोरीं जब उन्होंने घोषणा की कि उन्होंने एआई के खतरों पर अधिक स्वतंत्र रूप से बोलने के लिए एक दशक के काम के बाद Google छोड़ दिया, चैटजीपीटी की रिलीज के तुरंत बाद दुनिया की कल्पना पर कब्जा कर लिया।
अत्यधिक सम्मानित एआई वैज्ञानिक, जो टोरंटो विश्वविद्यालय में स्थित हैं, कनाडाई शहर में कोलिजन टेक सम्मेलन में खचाखच भरे दर्शकों से बात कर रहे थे।
सम्मेलन में 30,000 से अधिक स्टार्टअप संस्थापक, निवेशक और तकनीकी कर्मचारी एक साथ आए, जिनमें से अधिकांश एआई लहर की सवारी करना सीखना चाहते थे और इसके खतरों पर कोई सबक नहीं सुनना चाहते थे।
हिंटन ने कहा, "इससे पहले कि एआई हमसे ज्यादा स्मार्ट हो, मुझे लगता है कि इसे विकसित करने वाले लोगों को यह समझने के लिए बहुत काम करने के लिए प्रोत्साहित किया जाना चाहिए कि यह कैसे कोशिश कर सकता है और नियंत्रण छीन सकता है।"
उन्होंने कहा, "फिलहाल 99 बहुत स्मार्ट लोग एआई को बेहतर बनाने की कोशिश कर रहे हैं और एक बहुत स्मार्ट व्यक्ति यह पता लगाने की कोशिश कर रहा है कि इसे हावी होने से कैसे रोका जाए और शायद आप अधिक संतुलित होना चाहते हैं।"
विज्ञान कथा या भय फैलाने वाली बात नहीं
हिंटन ने चेतावनी दी कि एआई के जोखिमों को गंभीरता से लिया जाना चाहिए, उनके आलोचकों के बावजूद, जो मानते हैं कि वह जोखिमों को बढ़ा-चढ़ाकर पेश कर रहे हैं।
उन्होंने जोर देकर कहा, "मुझे लगता है कि यह महत्वपूर्ण है कि लोग समझें कि यह विज्ञान कथा नहीं है, यह सिर्फ डर फैलाना नहीं है।" "यह एक वास्तविक जोखिम है जिसके बारे में हमें सोचना चाहिए, और हमें पहले से ही यह पता लगाना होगा कि इससे कैसे निपटना है।"
असमानता को और गहरा कर सकता है
हिंटन ने यह भी चिंता व्यक्त की कि एआई असमानता को और गहरा कर देगा, इसकी तैनाती से होने वाले बड़े पैमाने पर उत्पादकता लाभ अमीरों के लाभ के लिए होगा, न कि श्रमिकों के लिए।
उन्होंने कहा, "धन काम करने वाले लोगों के पास नहीं जाएगा। यह अमीरों को और अमीर बनाने में जाएगा, गरीबों को नहीं और यह समाज के लिए बहुत बुरा है।"
फेक न्यूज के खतरे
उन्होंने चैटजीपीटी-शैली के बॉट्स द्वारा बनाई गई फर्जी खबरों के खतरे की ओर भी इशारा किया और कहा कि उन्हें उम्मीद है कि एआई-जनित सामग्री को उसी तरह से चिह्नित किया जा सकता है जैसे केंद्रीय बैंक नकद धन को वॉटरमार्क करते हैं।
उन्होंने कहा, "उदाहरण के लिए, जो कुछ भी नकली है उसे नकली के रूप में चिह्नित करने का प्रयास करना बहुत महत्वपूर्ण है। क्या हम तकनीकी रूप से ऐसा कर सकते हैं, मुझे नहीं पता।"
यूरोपीय संघ अपने एआई अधिनियम में ऐसी तकनीक पर विचार कर रहा है, एक ऐसा कानून जो यूरोप में एआई के लिए नियम तय करेगा, जिस पर वर्तमान में कानून निर्माताओं द्वारा बातचीत की जा रही है।
'मंगल ग्रह पर अधिक जनसंख्या के बारे में बात करना पसंद है'
हिंटन की एआई खतरों की सूची उन सम्मेलन चर्चाओं के विपरीत थी जो सुरक्षा और खतरों पर कम और चैटजीपीटी के मद्देनजर बनाए गए अवसर को जब्त करने के बारे में अधिक थीं।
वेंचर कैपिटलिस्ट सारा गुओ ने कहा कि अस्तित्व के लिए खतरे के रूप में एआई के बारे में निराशा और निराशा की बात समय से पहले हुई थी और इसकी तुलना एक अन्य एआई गुरु, एंड्रयू एनजी के हवाले से "मंगल ग्रह पर अधिक जनसंख्या के बारे में बात करना" से की गई।
उन्होंने "नियामक कब्जे" के खिलाफ भी चेतावनी दी, जिससे स्वास्थ्य, शिक्षा या विज्ञान जैसे क्षेत्रों को लाभ पहुंचाने का मौका मिलने से पहले सरकार के हस्तक्षेप से सत्ताधारियों की रक्षा हो जाएगी।
इस बात पर राय अलग-अलग थी कि क्या वर्तमान जनरेटिव एआई दिग्गज - मुख्य रूप से माइक्रोसॉफ्ट समर्थित ओपनएआई और गूगल - बेजोड़ रहेंगे या क्या नए कलाकार अपने स्वयं के मॉडल और नवाचारों के साथ क्षेत्र का विस्तार करेंगे।
"पांच वर्षों में, मैं अभी भी कल्पना करता हूं कि यदि आप जाना चाहते हैं और सबसे अच्छा, सबसे सटीक, सबसे उन्नत सामान्य मॉडल ढूंढना चाहते हैं, तो आपको शायद अभी भी उन कुछ कंपनियों में से एक में जाना होगा जिनके पास ऐसा करने के लिए पूंजी है , "वेंचर कैपिटल फर्म क्लेनर पर्किन्स की लेह मैरी ब्रासवेल ने कहा।
ग्रैडिएंट वेंचर्स के ज़ाचरी ब्रैटन-ग्लेनॉन ने कहा कि उन्होंने एक ऐसे भविष्य की कल्पना की है, जहां "एक नेटवर्क में लाखों मॉडल होंगे, ठीक उसी तरह जैसे आज हमारे पास वेबसाइटों का एक नेटवर्क है।"
