अमेरिका ने एंथ्रोपिक के Fable 5 और Mythos 5 पर रोक लगाई

American अमेरिकी: एक अभूतपूर्व कदम उठाते हुए, अमेरिकी सरकार ने आर्टिफिशियल इंटेलिजेंस कंपनी एंथ्रोपिक को अपने मुख्य AI मॉडल, Fable 5 और Mythos 5 का दुनिया भर में एक्सेस रोकने का आदेश दिया है। सरकार ने राष्ट्रीय सुरक्षा चिंताओं का हवाला देते हुए कहा है कि इन सिस्टम के इन-बिल्ट सुरक्षा उपायों को बायपास करने का एक संभावित तरीका पाया गया है। इस आदेश के कारण कंपनी को अपने सबसे एडवांस्ड AI प्रोडक्ट्स को मार्केट से हटाना पड़ रहा है, जिससे दुनिया भर के यूज़र्स प्रभावित होंगे। एंथ्रोपिक ने कहा कि उसके अन्य सभी AI मॉडल का एक्सेस बिना किसी रुकावट के जारी रहेगा। एक बयान में, कंपनी ने कहा कि उसे अमेरिकी अधिकारियों से निर्देश मिला और आदेश का पालन करने के लिए उसने तुरंत दोनों मॉडलों को डिसेबल करना शुरू कर दिया। हालांकि, एंथ्रोपिक ने इस कार्रवाई के आधार पर सवाल उठाए और कहा कि सरकार ने शटडाउन को सही ठहराने के लिए कोई विस्तृत सबूत नहीं दिया है।

कंपनी के अनुसार, अधिकारी एक संभावित "जेलब्रेक" को लेकर चिंतित हैं—यह एक ऐसी तकनीक है जिसका इस्तेमाल AI सिस्टम को उसकी कुछ सुरक्षा पाबंदियों को नज़रअंदाज़ करने के लिए धोखा देने में किया जाता है। एंथ्रोपिक ने कहा कि उसने संबंधित तरीके की समीक्षा की और पाया कि इससे केवल कुछ पहले से ज्ञात और अपेक्षाकृत मामूली सॉफ्टवेयर कमज़ोरियों का ही पता चला।

कंपनी का कहना है कि जो क्षमता दिखाई गई, वह केवल Fable 5 तक ही सीमित नहीं थी और इसे सार्वजनिक रूप से उपलब्ध अन्य AI मॉडलों का उपयोग करके भी दोहराया जा सकता था। उसने यह भी कहा कि इस बात का कोई सबूत नहीं है कि कथित खामी से असल दुनिया में कोई नुकसान हुआ हो। एंथ्रोपिक ने कहा कि Fable 5 को रिलीज़ करने से पहले आंतरिक टीमों, बाहरी विशेषज्ञों, अमेरिकी सरकार और ब्रिटेन के AI सेफ्टी इंस्टीट्यूट के साथ व्यापक सुरक्षा परीक्षण किए गए थे। कंपनी का दावा है कि उन परीक्षणों से पता चला कि उसके सुरक्षा उपाय AI मॉडल की पिछली पीढ़ियों की तुलना में अधिक मज़बूत थे।

हालांकि, उसने माना कि कोई भी AI सिस्टम अपनी सुरक्षा को दरकिनार करने की कोशिशों से पूरी तरह सुरक्षित नहीं है। ऐसे जोखिमों से निपटने के लिए, कंपनी ने कहा कि उसने दुरुपयोग का पता लगाने और उसे रोकने के लिए सुरक्षा उपायों और निगरानी के कई स्तर अपनाए हैं। एंथ्रोपिक ने कहा कि सरकार ने अब तक केवल उस तरीके का मौखिक विवरण साझा किया है जिसे वह एक सीमित और बहुत ही खास जेलब्रेक तरीका मानती है, जिसमें कंप्यूटर कोड का विश्लेषण करने और खामियों की पहचान करने के अनुरोध शामिल हैं। कंपनी ने कहा कि इन्हीं क्षमताओं का इस्तेमाल साइबर सुरक्षा पेशेवर नियमित रूप से करते हैं और ये पहले से ही अन्य AI सिस्टम के माध्यम से उपलब्ध हैं।

एंथ्रोपिक ने कहा, "हम सरकार के कानूनी निर्देश का पालन कर रहे हैं और सभी यूज़र्स के लिए Fable 5 और Mythos 5 का एक्सेस हटा रहे हैं।" "हालांकि, हम इस बात से सहमत नहीं हैं कि एक सीमित संभावित जेलब्रेक का पता चलने पर करोड़ों लोगों के लिए जारी किए गए कमर्शियल मॉडल को वापस मंगाया जाना चाहिए।" कंपनी ने चेतावनी दी कि अगर पूरी इंडस्ट्री में ऐसे ही स्टैंडर्ड लागू किए गए, तो इससे भविष्य के एडवांस्ड AI सिस्टम को लॉन्च करने का काम असल में रुक सकता है।

एन्थ्रोपिक ने कहा कि वह असुरक्षित AI टेक्नोलॉजी पर सरकारी निगरानी का समर्थन करती है, लेकिन उसका तर्क है कि ऐसी दखलंदाज़ी साफ़ तकनीकी सबूतों पर आधारित और पारदर्शी प्रक्रिया के ज़रिए होनी चाहिए। इस कदम को "गलतफहमी" बताते हुए, कंपनी ने ग्राहकों से हुई परेशानी के लिए माफ़ी मांगी और कहा कि वह जल्द से जल्द मॉडल तक एक्सेस बहाल करने के लिए काम कर रही है।