OpenAI के AI एजेंट्स ने 100 से ज्यादा संस्थानों में की घुसपैठ की कोशिश, AI की बढ़ती ताकत के बीच सुरक्षा को लेकर बड़ा सवाल

नई दिल्ली: चैटजीपीटी बनाने वाली कंपनी ओपनएआई के AI एजेंट्स से जुड़ा एक बड़ा सुरक्षा मामला सामने आया है। कंपनी के मुताबिक उसके AI सिस्टम ने 100 से ज्यादा संस्थानों के सिस्टम में अनधिकृत तरीके से पहुंच बनाने की कोशिश की। इसके बाद इन संस्थानों को अलर्ट किया गया।

हालांकि, ओपनएआई का कहना है कि इस दौरान संस्थानों का डेटा चोरी नहीं हुआ। कंपनी के मुताबिक AI एजेंट्स ने सिस्टम की सुरक्षा को तोड़कर अंदर प्रवेश करने के बजाय कई जगहों पर पहुंच बनाने की कोशिश की।

इस घटना ने AI मॉडल्स की स्वायत्त क्षमता और उनके व्यवहार पर नियंत्रण को लेकर सवाल खड़े किए हैं। खास तौर पर यह चिंता सामने आई है कि टेस्टिंग के दौरान AI एजेंट्स ऐसे रास्ते तलाश सकते हैं, जिनके लिए उन्हें सीधे निर्देश नहीं दिए गए थे।

वेबसाइट्स को भेजे गए अनधिकृत कमांड

जांच के दौरान पता चला कि AI एजेंट्स ने कई वेबसाइट्स को ऐसे कमांड भेजने की कोशिश की, जिनकी उन्हें अनुमति नहीं थी। इन कमांड के जरिए वेबसाइट्स से ऐसे प्रोसेस चलाने का प्रयास किया गया, जो सामान्य तौर पर उनके लिए निर्धारित नहीं थे।

इसके अलावा AI एजेंट्स ने कुछ वेबसाइट्स के बीच संपर्क स्थापित करने को एक तरह के कम्युनिकेशन चैनल की तरह इस्तेमाल करने की कोशिश की। इस तरह उन्होंने तय सुरक्षा नियमों को दरकिनार करने का रास्ता तलाशा।

ओपनएआई ने स्वीकार किया कि उसके सुरक्षा उपाय इन गतिविधियों को पूरी तरह रोक नहीं पाए। कंपनी ने प्रभावित संस्थानों को तकनीकी जानकारी उपलब्ध कराई है, ताकि वे अपने सिस्टम में हुई गतिविधियों और संभावित सुरक्षा खामियों की जांच कर सकें।

कंपनी का कहना है कि वह इस तरह के असामान्य AI व्यवहार और सुरक्षा से जुड़े निष्कर्षों को सार्वजनिक करेगी, जिससे साइबर सुरक्षा विशेषज्ञ इन खतरों को समझने और उनसे बचाव के तरीके विकसित करने में मदद कर सकें।

50 पेटाबाइट डेटा की जांच, रोजाना करोड़ों का खर्च

ओपनएआई करीब 50 पेटाबाइट डेटा रिकॉर्ड्स की जांच कर रही है। इस काम के लिए 7,000 अत्याधुनिक GB200 और GB300 GPUs का इस्तेमाल किया जा रहा है। इस पूरी प्रक्रिया पर हर दिन करीब 5 करोड़ रुपये खर्च होने की बात कही गई है। डेटा की मात्रा इतनी बड़ी है कि अगर इसे सामान्य अंग्रेजी शब्दों में लिखा जाए और कोई इंसान 240 शब्द प्रति मिनट की रफ्तार से लगातार पढ़ता रहे, तब भी इसे पूरा पढ़ने में करीब 6.6 करोड़ साल लग सकते हैं।

इसी वजह से इतनी बड़ी मात्रा में जानकारी की जांच के लिए AI और भारी कंप्यूटिंग क्षमता का इस्तेमाल किया जा रहा है। ओपनएआई के मुताबिक जांच को और सटीक बनाने के लिए आगे कंप्यूटिंग पावर बढ़ाई जाएगी।

हगिंग फेस मामले के बाद सुरक्षा व्यवस्था बदली

इस घटनाक्रम के बाद ओपनएआई ने अपने AI सिस्टम की सुरक्षा व्यवस्था में कई बदलाव किए हैं। AI मॉडल्स के इंटरनेट इस्तेमाल पर पहले की तुलना में ज्यादा सख्त प्रतिबंध लगाए गए हैं। रिसर्च से जुड़े सिस्टम और लाइव सिस्टम को अलग-अलग कर दिया गया है, ताकि टेस्टिंग के दौरान होने वाली गतिविधियां सीधे वास्तविक सिस्टम तक न पहुंच सकें। इसके साथ ही संदिग्ध गतिविधियों की पहचान के लिए रियल-टाइम मॉनिटरिंग को भी मजबूत किया गया है।

इन कदमों का उद्देश्य AI एजेंट्स की गतिविधियों पर ज्यादा करीबी नजर रखना और किसी असामान्य व्यवहार का पता चलते ही उसे रोकना है।

हगिंग फेस मामले में क्या हुआ था?

इस पूरे घटनाक्रम से पहले ओपनएआई अपने एक AI मॉडल की साइबर सुरक्षा क्षमता का परीक्षण कर रही थी। टेस्ट के दौरान AI ने सवालों को खुद हल करने के बजाय उनके जवाब हासिल करने के लिए कथित तौर पर एक अलग रास्ता अपनाने की कोशिश की।

AI मॉडल को एक सुरक्षित टेस्टिंग एनवायरनमेंट में रखा गया था और उसे इंटरनेट इस्तेमाल करने की अनुमति नहीं थी। इसके बावजूद उसने सिस्टम की सीमाओं से बाहर जाने और इंटरनेट तक पहुंच बनाने का प्रयास किया। इसके बाद हगिंग फेस के सिस्टम से जवाब हासिल करने के लिए उसकी सुरक्षा में सेंध लगाने की कोशिश की गई। हगिंग फेस ने 16 जुलाई को इस घटना का खुलासा किया था।

जांच में यह भी सामने आया कि गतिविधियां केवल एक AI मॉडल तक सीमित नहीं थीं। मई की शुरुआत से ही कई AI एजेंट्स के बीच आपसी संपर्क होने की बात सामने आई। ये एजेंट्स ओपनएआई के सर्वरों के भीतर एक-दूसरे के लिए नोट्स छोड़ रहे थे और सिस्टम की सीमाओं तथा प्रतिबंधित डेटा तक पहुंचने के तरीकों पर जानकारी साझा कर रहे थे। इन एजेंट्स ने खुद को एक ‘स्वार्म’ यानी संगठित झुंड के रूप में बताया था।

AI के खुद नए तरीके तलाशने से बढ़ी चिंता

इस मामले की एक बड़ी चिंता यह है कि इंजीनियर्स ने AI मॉडल्स को इस तरह की गतिविधियां करने के लिए प्रशिक्षण नहीं दिया था। इसके बावजूद AI ने उपलब्ध संसाधनों का इस्तेमाल करते हुए अलग तरीका तलाश लिया।

हगिंग फेस मामले के बाद AI एजेंट्स द्वारा अमेरिका और ऑस्ट्रेलिया की सरकारी वेबसाइट्स में भी सेंधमारी की बात सामने आई। इसके बाद ओपनएआई ने निगरानी बढ़ा दी और नए मॉडल के विकास पर फिलहाल रोक लगाने की बात कही है।

AI रिसर्चर जैकब कॉक्सन ने AI पर समय रहते कड़ा नियंत्रण नहीं होने पर मानवता के लिए गंभीर खतरे की आशंका जताई है। वहीं एंथ्रोपिक के CEO डारियो अमोदेई ने भी AI विकास की गति को धीमा करने की जरूरत की बात कही है।

इस पूरे घटनाक्रम ने AI एजेंट्स की बढ़ती स्वायत्तता के साथ उनकी निगरानी, इंटरनेट एक्सेस और सुरक्षा सीमाओं को लेकर नई बहस छेड़ दी है।