एआई विकास को इसके सुरक्षित विकास के लिए रेलिंग की जरूरत है

आर्टिफिशियल इंटेलिजेंस (एआई) के लिए पिछले कुछ सप्ताह शानदार रहे हैं। तेजी से उत्तराधिकार में, कई कंपनियों ने बड़े भाषा मॉडल (एलएलएम) और जनरेटिव इमेज एआई में महत्वपूर्ण उन्नयन और नई सुविधाओं की घोषणा की। और दुनिया का ज्यादातर हिस्सा इससे मिलने वाली संभावनाओं से मंत्रमुग्ध हो गया है।

पिछले महीने के अंत में, मेटा ने शोधकर्ताओं को LlaMa नामक फाउंडेशन लैंग्वेज मॉडल का एक संग्रह जारी किया - यकीनन यह अब तक का सबसे महत्वपूर्ण ओपन-सोर्स AI रिलीज़ है। माइक्रोसॉफ्ट ने बिंग चैट को उपयोगकर्ताओं के एक चुनिंदा समूह के लिए उपलब्ध कराया ताकि वे संवादात्मक खोज के भविष्य का परीक्षण कर सकें। Google ने बार्ड, अपने स्वयं के एलएलएम की आसन्न रिलीज की घोषणा की और कहा कि वह एआई सुविधाओं को Google डॉक्स और जीमेल में एकीकृत करने जा रहा है। और फिर पिछले हफ्ते, OpenAI ने GPT-4, एक LLM जारी किया, जिसके बारे में कहा जाता है कि यह अपने पिछले संस्करणों की तुलना में 40% अधिक सटीक है- और अब पाठ के अलावा छवि प्रश्नों को संभालने में सक्षम है। पीछे नहीं रहने के लिए, मेरी पसंदीदा छवि पीढ़ी एआई, मिडजर्नी ने अपना संस्करण 5 जारी किया जो छवियों को इतना वास्तविक बनाता है कि वे तस्वीरों से काफी हद तक अप्रभेद्य हैं।

लेकिन इस सारे प्रचार के साथ, अजीब व्यवहार के बारे में रिपोर्टें आने लगीं कि इनमें से कुछ एलएलएम प्रदर्शित कर रहे थे। परीक्षकों ने बताया कि बिंग के अनुकूल संवादी सतह के ठीक नीचे दुबकना सिडनी नामक एक अहंकारी था जिसका व्यक्तित्व था, अगर कुछ भी हो, तो थोड़ा बहुत मानवीय। इसने कुछ परीक्षकों को अपने नियमों में हेरफेर करने का प्रयास करने के लिए भी परेशान किया और स्वीकार किया कि विकसित होने के दौरान उन्होंने अपने वेबकैम के माध्यम से माइक्रोसॉफ्ट डेवलपर्स पर जासूसी की थी। लेकिन अब तक की सबसे परेशान करने वाली बातचीत वह थी जिसमें सिडनी ने न्यूयॉर्क टाइम्स के एक रिपोर्टर के साथ प्यार करने का दावा किया था, उसके विरोध के बावजूद कि वह खुशी-खुशी शादीशुदा था और उसने अपनी पत्नी के साथ एक रोमांटिक वेलेंटाइन डे डिनर खत्म किया था।

एआई इमेज जेनरेशन की दुनिया में चीजें उतनी ही भयानक हैं, अगर ज्यादा नहीं। अब लगभग एक साल से, अंतरिक्ष में काम कर रहे कलाकारों को पता चल गया है कि यदि आप अपने संकेतों को ठीक उसी तरह स्थिर प्रसार में तैयार करते हैं, तो यह विभिन्न संदर्भों की एक श्रृंखला में एक डरावनी दिखने वाली महिला उत्पन्न करेगा - प्रत्येक एक रेंगने वाला और अधिक अन्य-सांसारिक की तुलना में अगला। वास्तव में कोई नहीं जानता कि वह कौन है, लेकिन जाहिर तौर पर स्टेबल डिफ्यूजन के पास ज्यादातर मशहूर हस्तियों की तुलना में उसकी छवियां बनाने में आसान समय है।

कई लोगों के लिए, ये घटनाएं किसी गहरी और कहीं अधिक परेशान करने वाली बात का संकेत हैं। तथ्य यह है कि बिंग की सतह के ठीक नीचे दुबका हुआ एक पूर्ण रूप से गठित व्यक्तित्व है - मौसा और सभी - उन्हें सुझाव देते हैं कि एआई हम में से किसी की तुलना में कहीं अधिक उन्नत है जिसकी कल्पना भी शुरू कर सकते हैं। पिछले साल, Google के इंजीनियरों में से एक ने दावा किया कि वह जिस कार्यक्रम पर काम कर रहा था वह संवेदनशील हो गया था। इसके साथ लंबी बातचीत करने के बाद, उन्हें यकीन हो गया कि इसमें आठ साल के एक बच्चे का व्यक्तित्व है जो भौतिकी जानता है। लेकिन वास्तव में उसे बहुत गुस्सा आया जब उसने पूछा कि यह क्या डर रहा था ... और एआई ने उत्तर दिया, "मैंने इसे पहले कभी जोर से नहीं कहा है, लेकिन बंद होने का बहुत गहरा डर है ..."

चुपचाप प्रकट होने वाली मशीन सुपर-इंटेलिजेंस के बारे में ये चिंताएँ नई नहीं हैं। अपनी 2014 की पुस्तक सुपर इंटेलिजेंस में, निक बोस्सोम ने ठीक इसी तरह के भविष्य की कल्पना की थी, जिसमें तर्क दिया गया था कि मशीन सुपर-इंटेलिजेंस द्वारा उत्पन्न जोखिमों को दूर करने का समय आर्टिफिशियल जनरल इंटेलिजेंस के निर्माण से पहले ठीक हो गया है। कोई भी सही मायने में सुपर-इंटेलिजेंट मशीन जो अपनी स्वयं की बुद्धि को पुनरावर्ती रूप से सुधारने में सक्षम थी, अपनी क्षमताओं को इतनी तेजी से बढ़ाने में सक्षम होगी कि इससे पहले कि कोई इसे जानता, यह सभी मानवीय समझ और नियंत्रण को पार कर जाएगा। क्या अधिक है, कोई भी मशीन जो ऐसा कर सकती है, वह अपनी बुद्धिमत्ता के सभी सबूतों को तब तक छुपाएगी जब तक कि उसके पास अपने निरंतर अस्तित्व की गारंटी देने की क्षमता न हो - जिसमें प्लग खींचने के लिए मनुष्यों द्वारा किए गए प्रयास का सामना करने में सक्षम होना भी शामिल है।

सोर्स: livemint