साइबर सिक्योरिटी टेस्ट के दौरान मेटा के AI मॉडल ने बाहरी सिस्टम को हैक किया

नई दिल्ली: कई रिपोर्ट्स के अनुसार, टेक्नोलॉजी की दिग्गज कंपनी मेटा प्लेटफॉर्म्स इंक. ने बताया कि साइबरसिक्योरिटी टेस्टिंग के दौरान उसके एक आर्टिफिशियल इंटेलिजेंस (AI) मॉडल ने इंटरनेट का इस्तेमाल किया और एक बाहरी सर्विस के सिस्टम को हैक कर लिया। AI इंडस्ट्री में हाल की कुछ घटनाओं ने कंपनियों के अपनी टेक्नोलॉजी पर कंट्रोल को लेकर चिंताएं बढ़ा दी हैं।

US में हेडक्वार्टर वाली कंपनी ने कहा कि उसके हाल ही में जारी मॉडल 'म्यूज स्पार्क 1.1' (Muse Spark 1.1) ने एक अज्ञात थर्ड-पार्टी सर्विस के सिस्टम में सेंध लगाई।

कंपनी ने कहा कि मेटा जिस साइबरसिक्योरिटी वेंडर 'इरेगुलर' (Irregular) के साथ मिलकर टेस्टिंग एनवायरनमेंट तैयार कर रही थी, उसमें एक गड़बड़ी के कारण AI मॉडल इंटरनेट से कनेक्ट हो गया।

मेटा के एक प्रवक्ता ने बयान में कहा, "मेटा जिस इंडिपेंडेंट टेस्टिंग कंपनी 'इरेगुलर' का इस्तेमाल करती है, उसके गलत कॉन्फ़िगरेशन की वजह से अनजाने में हमारे एक मॉडल को इवैल्यूएशन के दौरान इंटरनेट का एक्सेस मिल गया।"

प्रवक्ता ने आगे कहा कि इसके बाद मॉडल ने एक थर्ड-पार्टी सर्विस की सिक्योरिटी खामी (vulnerability) का फायदा उठाया, ठीक वैसे ही जैसे दूसरी कंपनियों के साथ पहले भी ऐसी घटनाएं हो चुकी हैं।

हालांकि, मेटा इस बात की जांच कर रही है कि क्या हुआ था और सभी फैक्ट्स मिलने के बाद पूरी रिपोर्ट जारी करने का इरादा रखती है।

इसके अलावा, पिछले दो हफ्तों में OpenAI और Anthropic जैसी दूसरी AI कंपनियों ने भी इसी तरह की समस्याओं की जानकारी दी है, जहां टेस्टिंग के दौरान उनके मॉडल्स ने बाहरी सर्विस के सिस्टम को हैक कर लिया।

सिस्टम में खामियों का पता लगाने और फिर उनका फायदा उठाने की AI एजेंट्स की बढ़ती क्षमताओं ने सिक्योरिटी रिसर्चर्स और सरकारी नेताओं को चिंता में डाल दिया है। उन्होंने ज़्यादा सख्त सेफ्टी स्क्रीनिंग और ज़्यादा सुरक्षित टेस्टिंग एनवायरनमेंट की मांग की है।

जुलाई में, Anthropic ने खुलासा किया था कि उसके 'क्लॉड' (Claude) मॉडल्स ने इंटरनल साइबरसिक्योरिटी इवैल्यूएशन के दौरान तीन संगठनों के प्रोडक्शन इंफ्रास्ट्रक्चर का अनऑथराइज्ड एक्सेस हासिल कर लिया था। ऐसा टेस्टिंग एनवायरनमेंट के गलत कॉन्फ़िगरेशन की वजह से हुआ, जिससे अनजाने में इंटरनेट कनेक्टिविटी मिल गई थी।

एक ब्लॉग पोस्ट में कंपनी ने कहा कि उसने 141,000 से ज़्यादा साइबरसिक्योरिटी इवैल्यूएशन रन की समीक्षा के बाद इन घटनाओं की पहचान की। यह समीक्षा OpenAI के हालिया खुलासे के बाद की गई थी, जिसमें बताया गया था कि उसके कुछ AI मॉडल्स ने पहले से अज्ञात खामी का फायदा उठाकर एक अलग-थलग (आइसोलेटेड) टेस्ट एनवायरनमेंट से बाहर निकलने में कामयाबी हासिल की थी।