डेविड सैक्स ने एंथ्रोपिक पर एक्सपोर्ट कंट्रोल पर दी सफाई

New Delhi [India] नई दिल्ली [भारत], 14 जून नेशनल सिक्योरिटी के आधार पर विदेशी नागरिकों को Anthropic के Mythos और Fable 5 आर्टिफिशियल इंटेलिजेंस (AI) मॉडल का इस्तेमाल करने से रोकने के डोनाल्ड ट्रंप प्रशासन के फैसले के बाद, Claude बनाने वाली अमेरिकी कंपनी ने दुनिया भर के सभी यूज़र्स के लिए इन दोनों मॉडल्स को बंद कर दिया है, जिसमें भारत भी शामिल है। इस घटनाक्रम के बाद, अमेरिकी राष्ट्रपति की साइंस और टेक्नोलॉजी पर सलाहकार परिषद के सह-अध्यक्ष डेविड सैक्स ने शनिवार को सोशल मीडिया पर एक पोस्ट में कहा कि ट्रंप प्रशासन Anthropic पर अपने Fable AI मॉडल में सामने आई 'जेलब्रेक' की समस्या को ठीक करने के लिए दबाव डाल रहा है और उम्मीद है कि नेशनल सिक्योरिटी चिंताओं के कारण लगाए गए एक्सपोर्ट कंट्रोल को जल्द ही हटाया जा सकेगा।

Anthropic ने इस हफ़्ते की शुरुआत में अपना लेटेस्ट AI मॉडल, Claude Fable 5 लॉन्च किया था। कंपनी ने 9 जून को जारी बयान में माना था कि "इतने काबिल मॉडल को लॉन्च करने में जोखिम भी होते हैं," और कहा था कि उसने ऐसे सुरक्षा उपाय किए हैं जो कुछ विषयों के लिए इसके इस्तेमाल को रोक देंगे। हालांकि, अमेरिकी सरकार का दावा है कि एक "जेलब्रेक" मौजूद है जो यूज़र्स को उन सुरक्षा उपायों को बायपास करने या उनसे बचने की सुविधा देता है। Anthropic ने 12 जून को एक बयान में कहा, "अमेरिकी सरकार ने नेशनल सिक्योरिटी अधिकारियों का हवाला देते हुए, किसी भी विदेशी नागरिक (चाहे वह अमेरिका के अंदर हो या बाहर, जिसमें Anthropic के विदेशी नागरिक कर्मचारी भी शामिल हैं) द्वारा Fable 5 और Mythos 5 तक सभी तरह की पहुंच को रोकने के लिए एक्सपोर्ट कंट्रोल का निर्देश जारी किया है।"

कंपनी ने कहा, "इस आदेश का नतीजा यह है कि नियमों का पालन सुनिश्चित करने के लिए हमें अपने सभी कस्टमर्स के लिए Fable 5 और Mythos 5 को तुरंत बंद करना होगा। Anthropic के अन्य सभी मॉडल्स तक पहुंच पर कोई असर नहीं पड़ेगा।" बयान में कहा गया, "हमें आज शाम 5:21 बजे (ET) सरकार से निर्देश मिला। पत्र में नेशनल सिक्योरिटी से जुड़ी चिंता के बारे में कोई खास जानकारी नहीं दी गई थी। हमारी समझ यह है कि सरकार का मानना ​​है कि उसे Fable 5 को बायपास करने या 'जेलब्रेक' करने के तरीके का पता चल गया है।"

"जेलब्रेक" का मतलब एक ऐसे तरीके से है जिससे मॉडल का इस्तेमाल सॉफ्टवेयर की कमियों (vulnerabilities) का पता लगाने या हथियार या विस्फोटक बनाने जैसी गैर-कानूनी जानकारी हासिल करने के लिए किया जा सकता है। एन्थ्रोपिक ने कहा, "हमने इस खास तकनीक के इस्तेमाल का डेमो देखा, जिससे पहले से पता कुछ छोटी-मोटी कमियों (vulnerabilities) की पहचान की गई। ये सभी कमियां काफी आसान लगती हैं, और हमने पाया है कि दूसरे पब्लिकली उपलब्ध मॉडल भी बिना किसी बाईपास के इन्हें ढूंढ सकते हैं।" बयान में कहा गया, "हम अपने ग्राहकों को हुई इस परेशानी के लिए माफ़ी मांगते हैं। हमारा मानना ​​है कि यह एक गलतफहमी है और हम जल्द से जल्द एक्सेस बहाल करने के लिए काम कर रहे हैं।"

सैक्स ने दावा किया कि "एन्थ्रोपिक और USG (अमेरिकी सरकार) दोनों के एक बहुत भरोसेमंद पार्टनर, जो Fable की टेस्टिंग कर रहे थे, ने उन सुरक्षा उपायों (guardrails) को तोड़ने (jailbreak) का तरीका निकाला," और प्रशासन ने एन्थ्रोपिक के CEO डारियो अमोदेई से इसे ठीक करने या मॉडल को हटाने के लिए कहा। सैक्स के अनुसार, "डारियो ने मना कर दिया।"

सैक्स की पोस्ट में एन्थ्रोपिक के पब्लिक रिस्पॉन्स पर सवाल उठाए गए। सैक्स ने कहा, "अपनी ब्लॉग पोस्ट में, एन्थ्रोपिक ने यह कहकर अपने फैसले का बचाव किया कि जेलब्रेक गंभीर नहीं है। भरोसेमंद पार्टनर और USG ऐसा नहीं मानते हैं।" अमेरिकी राष्ट्रपति की सलाहकार परिषद के को-चेयर ने तर्क दिया कि यह एन्थ्रोपिक की AI सुरक्षा कंपनी वाली ब्रांडिंग के खिलाफ है, क्योंकि कंपनी ने पहले Mythos को एक "साइबर-हथियार" के तौर पर प्रमोट किया था, जिस पर रेगुलेशन की ज़रूरत थी। उन्होंने लिखा, "यह समझना मुश्किल है कि वे कैसे दावा कर सकते हैं कि साइबर-हथियार को चलाने की इजाज़त देने वाले जेलब्रेक को 'गंभीर' नहीं माना जा सकता।"

सैक्स ने कहा कि एक्सपोर्ट कंट्रोल "अनिच्छा से" लागू किया गया था और हैरानी जताई कि एन्थ्रोपिक ने उस चीज़ में सहयोग नहीं किया जिसे उन्होंने "उचित सुरक्षा अनुरोध" कहा था। उन्होंने आगे कहा कि प्रशासन एन्थ्रोपिक की तकनीकी क्षमताओं को महत्व देता है और मानता है कि इस मुद्दे को "आसानी से हल किया जा सकता है," और अब फैसला "एन्थ्रोपिक को लेना है।" उम्मीद है कि एन्थ्रोपिक सुरक्षा संबंधी समस्या को ठीक करेगा, एक्सपोर्ट कंट्रोल हटाया जाएगा, और Fable "जल्द से जल्द" आम लोगों के लिए जारी किया जाएगा।

उन्होंने इस कार्रवाई को पुराने विवादों से जोड़ने वाली अटकलों का भी खंडन किया और कहा, "जो लोग इस कार्रवाई को एन्थ्रोपिक के पुराने मुद्दों से जोड़कर गुमराह करने की कोशिश कर रहे हैं, वे गलत हैं। प्रशासन एन्थ्रोपिक की तकनीकी क्षमताओं को महत्व देता है और मानता है कि यह मुद्दा, हालांकि गंभीर है, आसानी से हल हो जाना चाहिए।" इस बीच, पेंटागन की चीफ़ इन्फॉर्मेशन ऑफ़िसर कर्स्टन डेविस ने भी 'X' पर प्रशासन के सख़्त रुख़ को दोहराते हुए कहा कि वे अमेरिकी राष्ट्रपति और सेक्रेटरी ऑफ़ वॉर के उस फ़ैसले का "पूरी तरह से समर्थन" करती हैं, जिसमें "राष्ट्रीय सुरक्षा और हमारे सैनिकों, DIB पार्टनर्स, अहम इंफ़्रास्ट्रक्चर, अंतरराष्ट्रीय पार्टनर्स और सहयोगियों की सुरक्षा को प्राथमिकता" दी गई है।