वाशिंगटन डीसी : कृत्रिम बुद्धिमत्ता क्षेत्र में कई हाई-प्रोफाइल हस्तियों के इस्तीफे के बाद इस पर अंतरराष्ट्रीय जांच तेज होने के साथ, एंथ्रोपिक के सीईओ डारियो अमोदेई ने सख्त शासन के लिए तत्काल आह्वान किया है, जिससे इस बात का व्यापक पुनर्मूल्यांकन करने का मार्ग प्रशस्त हुआ है कि अत्याधुनिक मॉडल कैसे विकसित किए जाते हैं।
सीएनएन के एंडरसन कूपर के साथ एक साक्षात्कार में, एंथ्रोपिक के सीईओ डारियो अमोडेई ने एआई द्वारा मानवता को नष्ट किए जाने की चिंताओं के कारण शोधकर्ता जैकब कॉक्सन के सार्वजनिक इस्तीफे से संबंधित हालिया खबरों पर सीधी प्रतिक्रिया व्यक्त की, और प्रौद्योगिकी के विकास को धीमा करने के अपने व्यापक प्रस्ताव पर चर्चा की।
इन चेतावनियों का जवाब देते हुए कूपर ने पूछा: "क्या आप सच में मानते हैं कि एआई सभी मनुष्यों को मार सकता है? आपके अनुसार इसकी कितनी प्रतिशत संभावना है?"
इसके जवाब में अमोदेई ने कहा, "यह अजीब बात है, मैं जैकब से असहमत होने की तुलना में उससे कहीं अधिक सहमत हूं। यह एक दिलचस्प इस्तीफा है क्योंकि जब वह गया था, तो उसने कहा था, मुझे लगता है कि एंथ्रोपिक सबसे जिम्मेदार खिलाड़ी है।"
अपने दृष्टिकोण को विस्तार से बताते हुए अमोदेई ने कहा, "मुझे लगता है कि एंथ्रोपिक इन मुद्दों से सबसे ज़्यादा वाकिफ़ हैं। वह हमें निशाना नहीं बना रहे थे, बल्कि पूरी इंडस्ट्री की तेज़ी से बदलती गतिशीलता पर सवाल उठा रहे थे। अब, मुझे लगता है कि मैंने पहले भी कहा है, ये बिना शर्त संभावनाएं, मैं इस तरह से बात करता था क्योंकि यह व्यक्त करने का एक आसान तरीका है, मुझे लगता है कि कुछ गड़बड़ होने की संभावना है, लेकिन यह बहुत ज़्यादा नहीं है।"
बारीक पथ विश्लेषण के महत्व को सरल सांख्यिकीय आंकड़ों से अधिक बताते हुए, अमोदेई ने कहा, "फिर से, मुझे लगता है कि संभावनाओं को किस प्रकार विभाजित किया जाए, इस पर विचार करना अधिक उपयोगी है। वे कौन से रास्ते हैं जिनमें चीजें सफल होती हैं, और वे कौन से रास्ते हैं जिनमें चीजें असफल होती हैं? यह कहने के बजाय कि 10% संभावना है, यह जुए जैसा लगता है। मुझे लगता है कि यह कहना कहीं अधिक उपयोगी है कि, यह अलग-अलग रास्तों में बँट जाता है। यदि हम सही रास्ते अपनाते हैं, तो कुछ गलत होने की संभावना बहुत कम है।"
सहयोगात्मक सुरक्षा उपायों के महत्व पर जोर देते हुए, अमोदेई ने आगे कहा, "अगर हम गलत रास्ते अपनाते हैं, तो कुछ गलत होने की संभावना और भी अधिक हो सकती है। आइए हम अपनी क्षमता और गलत रास्तों के बजाय सही रास्ते अपनाने की अपनी क्षमता पर ध्यान केंद्रित करें। मेरा मानना है कि सही रास्ते अपनाने का तरीका यह है कि उद्योग एक साथ मिलकर काम करे।"
विकास की गति को नियंत्रित करने में आवश्यक नाजुक संतुलन पर प्रकाश डालते हुए, अमोदेई ने कहा, "फिर से, हम उस प्रस्ताव पर बात करेंगे जो मैंने आज पेश किया है, लेकिन अंततः, उद्योग को मिलकर काम करना होगा और यह कठिन है, लेकिन कुछ हद तक, दुनिया को मिलकर काम करना होगा। अगर हम बहुत धीमी गति से आगे बढ़ते हैं, तो मुझे अब भी विश्वास है कि प्रौद्योगिकी की बागडोर गलत लोगों के हाथों में होगी। इससे, फिर से, चीजें गलत होने की संभावना बहुत बढ़ जाएगी।"
चर्चा को व्यावहारिक नीतिगत ढाँचों की ओर मोड़ते हुए, कूपर ने पूछा, "मूल रूप से, आप अपनी कंपनी और इन अन्य एआई कंपनियों के भीतर पर्यवेक्षकों का सुझाव दे रहे हैं, आदर्श रूप से वैश्विक स्तर पर, लेकिन निश्चित रूप से अमेरिका में, जो इसकी निगरानी करेंगे। उनके पास कर्मचारियों तक पहुँच होगी। उनके पास क्या शक्ति होगी?"
विभिन्न उद्योगों के बीच तत्काल सहमति के लिए आभार व्यक्त करते हुए अमोदेई ने जवाब दिया, "इससे पहले कि मैं उस पर बात करूं, मैं इस प्रस्ताव को पेश करने के कुछ ही घंटों के भीतर सैम अल्टमैन, एलोन मस्क, विभिन्न सांसदों और सरकारी अधिकारियों द्वारा समर्थन देखकर बहुत आभारी हूं। मुझे लगता है कि यह इस तरह की योजना को सफल बनाने की हमारी क्षमता का एक सकारात्मक संकेत है।"
निगरानी तंत्रों के लिए ऐतिहासिक नियामक समानताओं का हवाला देते हुए, अमोदेई ने आगे कहा, "आपके प्रश्न पर आते हुए, हाँ, अंतर्निहित मूल्यांकनकर्ता। इसका उदाहरण पहले से मौजूद है। यदि आप देखें कि बैंकों को कैसे विनियमित किया जाता है, तो बैंकों को अपना व्यवसाय करने की अनुमति देने के संबंध में कई नियम हैं क्योंकि हम वित्तीय संकट नहीं चाहते हैं। कुछ मामलों में जो किया जाता है, मुझे लगता है कि वित्तीय उद्योग में उन्हें पर्यवेक्षक कहा जाता है, लेकिन वे कंपनी से स्वतंत्र लोग होते हैं, जो कंपनी के कामकाज की जाँच करने के लिए दिन-प्रतिदिन कंपनी में अंतर्निहित होते हैं। मुझे लगता है कि हम एआई में भी ऐसा ही कर सकते हैं।"
वैश्विक स्तर पर अनुपालन बढ़ाने में आने वाली चुनौतियों को स्वीकार करते हुए अमोदेई ने कहा, "इस तीन-चरणीय प्रस्ताव में, प्रत्येक चरण पिछले चरण से अधिक कठिन है। एंथ्रोपिक ने पहले चरण के लिए प्रतिबद्धता जताकर एक तरह से शुरुआत की है, लेकिन हमें यह नहीं सोचना चाहिए कि अगले दो चरण अधिक कठिन होंगे, और हो सकता है कि हम सफल न हों।"
ठोस क्रियान्वयन के प्रति अपनी प्रतिबद्धता दोहराते हुए, अमोदेई ने निष्कर्ष निकाला, "मेरा प्रस्ताव एक ऐसा प्रस्ताव था जिसे हमें आजमाना चाहिए। अब, निबंध प्रकाशित करने के पहले कुछ घंटों में ही मुझे दूसरों से जो सहमति मिली है, उससे कुछ आशावाद पैदा होता है, लेकिन इसके लिए परिणामों की आवश्यकता है। हाँ, लोकतांत्रिक देशों में कंपनियों के बीच गति। अब, एक महत्वपूर्ण बात जिस पर मुझे यहाँ जोर देना है, वह यह है कि जैसे-जैसे हम मॉडल रिलीज़ की गति की बात करते हैं, यह वाणिज्यिक गतिविधि है। कंपनियों को वाणिज्यिक गतिविधि पर सीधे समन्वय करने के लिए, उन्हें सरकार के साथ मिलकर काम करना होगा। एक चीज जो हम अभी सरकार से मांग रहे हैं, वह यह है कि नियमों को लेकर भी सवाल है, लेकिन सरकार अभी इससे भी सरल काम कर सकती है, जो यह है कि वह सभी उद्योग जगत के लोगों के साथ एक कमरे में बैठे, और हम सब मिलकर बात कर सकते हैं, और सरकार यह सुनिश्चित कर सकती है कि हम एंटीट्रस्ट और मिलीभगत के दृष्टिकोण से कुछ भी गलत नहीं कर रहे हैं। हम बस अपने सिस्टम को सुरक्षित बनाने और सिस्टम को बेहतर बनाने के लिए मिलकर काम करने की कोशिश कर रहे हैं। सुरक्षित, और इसलिए मुझे लगता है कि सरकार की यह एक महत्वपूर्ण भूमिका है।"
इससे पहले, शनिवार को एक विस्तृत लेख में, डारियो अमोदेई ने एआई उद्योग की विकास गति को धीमा करने की वकालत की। इसके लिए अपनी योजना का विस्तार से वर्णन करते हुए, अमोदेई ने कहा कि एंथ्रोपिक तृतीय-पक्ष मूल्यांकनकर्ताओं के लिए सिस्टम तक पहुंच खोलेगा।
"हमें अग्रणी क्षेत्र में धीरे-धीरे आगे बढ़ना होगा: मैंने एक नया निबंध लिखा है जिसमें बताया गया है कि एआई उद्योग को अपनी गति धीमी क्यों करनी चाहिए, और इसके लिए तीन चरणों वाली योजना भी दी है। एंथ्रोपिक इन चरणों में से पहले चरण के लिए एकतरफा रूप से प्रतिबद्ध है। हम तृतीय-पक्ष मूल्यांकनकर्ताओं को अपने सिस्टम तक स्थायी, कर्मचारी-स्तरीय पहुंच प्रदान करेंगे, ताकि वे हमारे सुरक्षा उपायों के पालन को सत्यापित कर सकें, घटनाओं की रिपोर्ट कर सकें और प्रशिक्षण के दौरान मॉडलों के संरेखण का आकलन कर सकें," उन्होंने X पर लिखा।
अमोदेई का कहना है कि वे एआई मॉडल के विकास की गति को धीमा करने की वकालत कर रहे हैं, क्योंकि अगर इस पर नियंत्रण नहीं रखा गया तो यह ऐसी प्रणालियों को नियंत्रित करने की मानवीय क्षमता से आगे निकल सकता है।