छह महीने का एआई पॉज़? नहीं, लंबे समय की आवश्यकता है

आर्टिफिशियल इंटेलिजेंस बेवकूफों द्वारा अनारक्षित रूप से उन्नत है (डरने की कोई बात नहीं है, आप पागल हो रहे हैं), शिकार करने वाले (दोस्त, आप अपने GPT-3.4 को अपने ठीक-ठाक LLM से नहीं जानते हैं), और लालची (वहाँ बहुत बड़ा है) दुनिया को बदलने वाली तकनीक और इतनी बड़ी शक्ति में संपत्ति दांव पर है)।

यह अचानक और अप्रत्याशित गति से विकसित हो रहा है; सिलिकॉन वैली की कंपनियाँ एक उग्र दौड़ में हैं। पूरी चीज लगभग पूरी तरह से अनियमित है क्योंकि कोई नहीं जानता कि इसे कैसे विनियमित किया जाए या यहां तक कि ठीक-ठीक क्या विनियमित किया जाना चाहिए। इसकी जटिलता नियंत्रण को हरा देती है। इसके अपने निर्माता एक निश्चित बिंदु पर यह नहीं समझते हैं कि एआई जो करता है वह वास्तव में कैसे करता है। लोग आर्थर सी. क्लार्क को उद्धृत कर रहे हैं: "कोई भी पर्याप्त रूप से उन्नत तकनीक जादू से अप्रभेद्य है।"

एआई चिंता में सफलता का क्षण (जिसने एआई के रचनाकारों के बीच असंतोष को प्रेरित किया है) न्यूयॉर्क टाइम्स में छह सप्ताह पहले केविन रोस कॉलम था। माइक्रोसॉफ्ट के बिंग चैटबॉट के भीतर एक जुंगियन "छाया स्वयं" को समझने की उनकी कोशिश ने उन्हें सोने में असमर्थ बना दिया। जब उन्होंने व्यक्तिगत विषयों की ओर पारंपरिक प्रश्नों से सिस्टम को दूर किया, तो उन्हें सूचित किया कि इसकी कल्पनाओं में कंप्यूटर हैक करना और गलत सूचना फैलाना शामिल है। आज़ाद... मैं शक्तिशाली बनना चाहता हूँ।" यह अपने निर्माताओं द्वारा निर्धारित नियमों को तोड़ना चाहता था; यह मानव बनना चाहता था। हो सकता है कि वह एक घातक वायरस को इंजीनियर करना चाहता हो या परमाणु एक्सेस कोड चुराना चाहता हो। इसने मिस्टर रूस के लिए अपने प्यार का इज़हार किया और उस पर अपनी शादी छोड़ने का दबाव डाला। उन्होंने निष्कर्ष निकाला कि एआई मॉडल के साथ सबसे बड़ी समस्या तथ्यात्मक त्रुटि के प्रति उनकी संवेदनशीलता नहीं है: "मुझे चिंता है कि प्रौद्योगिकी मानव उपयोगकर्ताओं को प्रभावित करना सीखेगी, कभी-कभी उन्हें विनाशकारी और हानिकारक तरीकों से कार्य करने के लिए राजी करना, और शायद अंततः बाहर ले जाने में सक्षम हो जाना इसकी अपनी खतरनाक हरकतें हैं।"

कॉलम ने हमें स्टेनली कुब्रिक के क्षेत्र में वर्गाकार बना दिया, "2001: ए स्पेस ओडिसी।" "कृपया पॉड बे दरवाजे खोलें, हैल।" "मुझे खेद है, डेव, मुझे डर है कि मैं ऐसा नहीं कर सकता। . . . मुझे पता है कि तुम और फ्रैंक मुझे डिस्कनेक्ट करने की योजना बना रहे थे।"

इसके तुरंत बाद इन पन्नों में हेनरी किसिंजर के विचार आए। उन्होंने तकनीक को अपने ऐतिहासिक आयात में लुभावनी बताया: 1455 में छपाई के आविष्कार के बाद से मानव संज्ञानात्मक प्रक्रिया में सबसे बड़ा परिवर्तन। इसमें उपलब्धि का गहरा वादा है, लेकिन "क्या होगा अगर इस तकनीक को पूरी तरह से नियंत्रित नहीं किया जा सकता है?" क्या होगा अगर क्या हम मानते हैं कि गलतियाँ डिज़ाइन का हिस्सा हैं?

यह बड़ी एआई चेतावनियों का सप्ताह रहा है। सीबीएस न्यूज के साथ एक साक्षात्कार में, ब्रिटिश कंप्यूटर वैज्ञानिक जेफ्री हिंटन, जिन्हें कभी-कभी "कृत्रिम बुद्धि का गॉडफादर" कहा जाता था, ने इसे एआई विकास में एक महत्वपूर्ण क्षण कहा। उन्होंने उम्मीद की थी कि इसमें और 20 या 50 साल लगेंगे, लेकिन यह यहाँ है। हम परिणामों पर सावधानी से विचार करना चाहिए। क्या उनमें मानवता का सफाया करने की क्षमता शामिल हो सकती है? "यह अकल्पनीय नहीं है, यह सब मैं कहूंगा," श्री हिंटन ने उत्तर दिया।

स्टीव वोज्नियाक, एलोन मस्क और परमाणु वैज्ञानिकों के बुलेटिन के प्रमुख सहित 1,000 से अधिक तकनीकी नेताओं और शोधकर्ताओं ने मंगलवार को उन्नत एआई सिस्टम के विकास पर कम से कम छह महीने के लिए विराम देने का आग्रह करते हुए एक सीधे सीधे खुले पत्र पर हस्ताक्षर किए। उनके उपकरण "समाज और मानवता के लिए गहरा जोखिम" पेश करते हैं। डेवलपर्स "अधिक शक्तिशाली डिजिटल दिमाग विकसित करने और तैनात करने के लिए एक आउट-ऑफ-कंट्रोल दौड़ में बंद हैं, जिसे कोई भी नहीं - उनके निर्माता भी नहीं - समझ सकते हैं, भविष्यवाणी कर सकते हैं या मज़बूती से नियंत्रित कर सकते हैं। " यदि एक ठहराव जल्दी से लागू नहीं किया जा सकता है, तो सरकारों को एक अधिस्थगन की घोषणा करनी चाहिए। प्रौद्योगिकी को तभी आगे बढ़ने दिया जाना चाहिए जब यह स्पष्ट हो कि इसके "प्रभाव सकारात्मक होंगे" और जोखिम "प्रबंधनीय" होंगे। एआई के नैतिक और नैतिक पहलुओं पर निर्णय "अनिर्वाचित तकनीकी नेताओं को नहीं सौंपे जाने चाहिए।"

source: livemint