एआई दुविधा: हमारा बड़ा जोखिम दुष्ट मानव हाथों में सुपर एआई है

जैसा कि मैंने इस प्रकाशन के लिए अपना 100 वां टेक व्हिस्पर कॉलम लिखना शुरू किया, मैंने सितंबर 2019 में पहले वाले (bit.ly/41NW0pF) को वापस संदर्भित किया, यह देखने के लिए कि उस समय क्या था। यह कोई आश्चर्य की बात नहीं थी कि पहला कॉलम एलोन मस्क और एआई के बारे में था, दो विषय जो अभी भी तकनीकी चर्चा पर हावी हैं। वह कॉलम जैक मा के साथ मस्क द्वंद्वयुद्ध के बारे में था, और इसके बारे में गहरी निराशा व्यक्त करते हुए, यह कहकर: "एआई को मानवता को नष्ट करने के लिए बुराई नहीं है - यदि एआई का एक लक्ष्य है और मानवता बस [होने के लिए] रास्ते में होती है, यह निश्चित रूप से इसके बारे में सोचे बिना भी मानवता को नष्ट कर देगा। सच्चाई।

मुझे संदेह है कि हम में से अधिकांश समान रूप से विवादित हैं। दिसंबर 2022 से जब चैटजीपीटी जारी किया गया था, तब से बेतहाशा उत्साह ने इसकी 'अलौकिक' शक्ति के एक गंभीर अहसास का मार्ग प्रशस्त किया है, जो बढ़ने के लिए तैयार है। ऐसा लगता है कि मीडिया की भावना 'कैसे चैटजीपीटी दुनिया को बदल देगी' से 'कैसे एआई नौकरियों और मानवता को नष्ट कर देगा' में स्थानांतरित हो गई है। मेरा अपना सतर्क आशावाद डगमगा रहा है, क्योंकि मैं देखता हूं कि एआई के सम्मानित नेता चिंतित होने लगे हैं। मुझे नहीं लगता था कि AGI- आर्टिफिशियल जनरल इंटेलिजेंस, या जब कोई AI इंसानों से ज्यादा स्मार्ट हो जाता है और नया ज्ञान विकसित करना शुरू कर सकता है- आसन्न था, लेकिन अब मैं इतना आश्वस्त नहीं हूं। गहन शिक्षा के जनक जेफ्री हिंटन ने कहा है कि यह "अकल्पनीय नहीं है" कि एक गलत एजीआई मनुष्यों को विलुप्त कर देगा।

सोर्स: livemint