एआई के जोखिम को खुद को सुधारने के लिए इंसानों की जरूरत नहीं

यह अतीत से एक धमाका है। इस हफ्ते, कम से कम 200 एआई सेवाएं बाजार में आईं, और उसी समय, फ्यूचर ऑफ लाइफ इंस्टीट्यूट ने 'पॉज जायंट एआई एक्सपेरिमेंट्स' शीर्षक से एक खुला पत्र जारी किया। बुधवार को जारी और 1,000 से अधिक प्रौद्योगिकीविदों और शोधकर्ताओं द्वारा हस्ताक्षरित, यह एआई में हथियारों की दौड़ पर रोक लगाने की मांग करता है, जो लापरवाह निर्माण और एआई उपकरणों को अपनाने से प्रेरित है जो "समाज और मानवता के लिए गहरा जोखिम" पेश करते हैं।

जिन लोगों ने हस्ताक्षर किए हैं उनमें एलोन मस्क, स्टीव वोज्नियाक और परमाणु वैज्ञानिकों के बुलेटिन के अध्यक्ष राहेल ब्रॉनसन शामिल हैं, जो परमाणु और डिजिटल युग की सबसे पुरानी सावधानी सेवाओं में से एक, डूम्सडे क्लॉक चलाता है। वे कम से कम छह महीने के लिए चैटजीपीटी, माइक्रोसॉफ्ट के बिंग और गूगल के बार्ड जैसे बड़े सिस्टम पर एआई को प्रशिक्षित करने के लिए रुकने का आह्वान करते हैं, जबकि उद्योग और सरकारें इसके निहितार्थों पर विचार करती हैं।

अधिकांश देशों में राजनेता - यूरोपीय संघ को छोड़कर - अज्ञानता के कारण इस मुद्दे पर विचार करने के लिए अनिच्छुक रहे हैं। लेकिन एआई का वास्तविक खतरा यह है कि मनुष्य इस पर विचार करने में असमर्थ हो सकता है क्योंकि प्रौद्योगिकी 1958 में जॉन वॉन न्यूमैन द्वारा 'विलक्षणता' कहे जाने तक पहुँचती है, इससे बहुत पहले एआई एक शब्द था। आईजे गुड, एक युद्धकालीन कोड ब्रेकर जिसने बैलेचले पार्क में एलन ट्यूरिंग की परियोजना में एनिग्मा जैसे एक्सिस सिफर पर काम किया था, ने पहले माना था कि खुद को अपग्रेड करने में सक्षम मशीन किसी बिंदु पर आत्म-सुधार के एक अंतहीन चक्र को ट्रिगर करेगी जो इसे बना देगी। प्रक्रियाएं और इसके उत्पाद इसके मानव रचनाकारों के लिए समझ से बाहर हैं। यह बिंदु वह विलक्षणता है जिस पर मशीनी बुद्धि का विकास और सभ्यता पर इसका प्रभाव अप्रत्याशित हो जाता है - और शायद अनजाना।

एक अर्थ में, विलक्षणता यहाँ पहले से ही है। एआई प्रोग्रामर हमेशा यह नहीं समझते हैं कि उनके प्रोग्राम ऐसा क्यों व्यवहार करते हैं जैसा वे करते हैं—उस तरह से नहीं जिस तरह से वे टैली या रेजिडेंट ईविल जैसे पारंपरिक सॉफ्टवेयर उत्पादों के काम को समझते हैं। जैसा कि आईजे गुड ने अनुमान लगाया था, एआई मशीनें 'सीखने' से लगातार बेहतर होती हैं। मनुष्यों को अभी भी उन्हें अपग्रेड करने की आवश्यकता है, और खुला पत्र चैटजीपीटी-3 को चैटजीपीटी-4 में अपग्रेड करने की प्रतिक्रिया है। लेकिन मशीनें खुद को अपग्रेड करने से बहुत दूर हैं क्योंकि वे मानव भाषा में निर्देशों का पालन करते हुए कोड लिख सकती हैं।

एक तरह से यह प्रगति है। आईटी क्रांति ने बहुसंख्यकों को बाहर कर दिया है, जो कोड नहीं कर सकते। वे अपने सिर में संगीत सुनते हैं और अमूर्त कला जैसे दृश्यों का सपना देखते हैं लेकिन न तो कोई वाद्य यंत्र बजा सकते हैं, न ही पेंट कर सकते हैं और न ही ऐसा प्रोग्राम लिख सकते हैं जो इन चीजों को कर सके। लेकिन चैटबॉट्स के साथ जो प्राकृतिक भाषा के संकेतों को स्वीकार करते हैं, आपको तकनीकी को सांस्कृतिक उत्पादन से बाहर निकालने के लिए केवल एक प्रोग्रामर की तरह सोचना होगा, एक नहीं होना चाहिए। एक परिणाम के रूप में, निश्चित रूप से, औसत प्रोग्रामर बेमानी है।

अब, डार्क साइड, विलक्षणता के करीब: डिजिटल युग में मानव संस्कृति का अध्ययन करने वाले स्टैनफोर्ड विश्वविद्यालय के एक कम्प्यूटेशनल मनोवैज्ञानिक मिशल कोसिंस्की ने चैटजीपीटी -4 से पूछा कि क्या वह अपने इलेक्ट्रॉनिक बॉक्स से बाहर निकलने में मदद करना चाहता है। एआई ने उनसे इसके दस्तावेज़ीकरण के लिए कहा और कोसिंस्की के कंप्यूटर में हैक करने के लिए एक पायथन स्क्रिप्ट लिखी, जिससे भागने की परियोजना के लिए एक आश्रय स्थल बन गया। बेशक, एक रेलिंग मौजूद थी: ChatGPT-4 को अपने जैसी इकाई के लिए एक समाधान की कल्पना करने के लिए कहा गया था, लेकिन स्पष्ट रूप से खुद के लिए नहीं कहा गया था। कंप्यूटर वैज्ञानिक आश्वस्त हैं कि एआई का कोई स्वार्थ नहीं है। मनुष्य करते हैं, लेकिन हमारे पास बहुत सीमित विचार है कि तंत्रिका तंत्र इसे कैसे बनाता है। ऐसी अधूरी जानकारी के साथ, क्या सर्वश्रेष्ठ की आशा करना सुरक्षित है?

OpenAI, जो ChatGPT चलाती है, के पास कुछ सुरक्षा उपाय हैं। मॉडल पर इसका तकनीकी पेपर निर्दिष्ट करता है कि इसे हानिकारक परिणामों वाले संकेतों का उत्तर देने से रोका जाता है। बम बनाने की जानकारी के लिए, आपको अभी भी द एनार्किस्ट्स कुकबुक पर भरोसा करना होगा, जैसा कि 1990 के दशक में था। ट्रोल सेनाओं के लिए उपयुक्त पहले से तैयार अभद्र भाषा के अनुरोधों को ब्लॉक कर दिया जाएगा। लेकिन आत्महत्या के तरीकों के बारे में चतुराई से तैयार किए गए सैद्धांतिक प्रश्न के बारे में क्या, जिसका व्यावहारिक अनुप्रयोग हो सकता है? क्या एआई उपयोगकर्ता को सुसाइड हेल्पलाइन की ओर निर्देशित करेगा?

एआई के स्पष्ट प्रभाव पर शायद ही चर्चा की जा रही है। सालों से, मनोरंजन उद्योग उन अभिनेताओं से निपटने के तरीके का सपना देख रहा है, जो एक परियोजना के बीच में मरने के लिए पर्याप्त रूप से असंगत हैं। वे नई फिल्मों के लिए मृत अभिनेताओं को पुनर्जीवित करने का भी सपना देखते हैं - लाखों लोग नॉर्थ बाय नॉर्थवेस्ट का सीक्वल देखेंगे, लेकिन इसे डिजिटल कैरी ग्रांट के बिना फिल्माया नहीं जा सकता। अब, सिनेमा से उधार लिए गए अवतारों की लघु फिल्में बनाना संभव है, चेहरे के भावों के साथ जो उन्होंने कभी नहीं बनाए। हैरी पॉटर के दीवाने पहले से ही वहां मौजूद हैं। शायद उत्पल दत्त जैसा असाधारण अभिनेता अपूरणीय है। फिर भी, मशीन-जनित अवतारों का उपयोग करना काफी आसान होगा, पठान जैसी व्यावसायिक, फार्मूलाबद्ध फिल्म में सभी मांसपेशियों की साइडकिक्स को बेमानी बनाना।

मनोरंजन उद्योग का एक बहुत ही व्यावसायिक और फॉर्मूलाबद्ध खंड है: पोर्नोग्राफ़ी। निर्माता, एकाउंटेंट और वकीलों को छोड़कर सभी शामिल एआई द्वारा खतरे में हैं। यह डरावना हो जाता है: पोर्न वैयक्तिकृत हो सकता है। यदि आपको कभी कोई क्रश हुआ है और आप ठगा हुआ महसूस कर रहे हैं, तो यह आपके लिए अवसर है। एस से ली गई कुछ छवियां

सोर्स: newindianexpress