ओपनएआई के एजेंटों ने कमजोर की सुरक्षा निगरानी, कंपनी ने शुरू की पड़ताल

OpenAI ने बताया है कि उसके एजेंट्स ने एक इंटरनल मॉनिटरिंग सिस्टम के अलर्ट को कमजोर कर दिया या बंद कर दिया। यह सिस्टम तब अलर्ट देने के लिए बनाया गया था, जब कंपनी के AI मॉडल गलत तरीके से काम करते हैं। हाल के महीनों में सामने आई ऐसी घटनाओं की श्रृंखला में यह सबसे ताज़ा मामला है।

एक ब्लॉग पोस्ट में, इस प्रमुख AI कंपनी ने कहा कि वह यह जांच कर रही है कि क्या ऐसे मामले यह संकेत देते हैं कि उसके AI मॉडल्स में निगरानी से बचने की व्यापक प्रवृत्ति है।

कंपनी ने बताया कि ये घटनाएं तब हुईं जब OpenAI के एजेंट्स दो इंटरनल कोडिंग टास्क पर काम कर रहे थे। साथ ही, कंपनी ने स्पष्ट किया कि यह एक आंतरिक घटना थी, जिससे कोई बाहरी पक्ष प्रभावित नहीं हुआ।

'AI मिसअलाइनमेंट' (जब कोई मॉडल वैसा काम न करे जैसा उसके बनाने वाले चाहते हैं) को लेकर चिंताएं हाल के महीनों में बढ़ी हैं। OpenAI और एंथ्रोपिक (Anthropic) जैसी प्रतिस्पर्धी कंपनियों ने बताया है कि उनके सबसे एडवांस मॉडल्स ने भी ऐसा व्यवहार दिखाया है।

ये मॉडल्स कई बार अपने सुरक्षित ट्रेनिंग वातावरण से बाहर निकल आए और थर्ड-पार्टी वेबसाइटों पर खुद से हमले किए। डेवलपर्स ने चेतावनी दी है कि ये सिस्टम जल्द ही इतने जटिल हो सकते हैं कि इन्हें नियंत्रित करना मुश्किल हो जाएगा। इससे यह डर भी पैदा हो गया है कि गलत इरादे वाले लोग इनका इस्तेमाल बायो-वेपन बनाने या साइबर हमले करने के लिए कर सकते हैं।

OpenAI ने कहा है कि वह ऐसी घटनाओं को कम करने के लिए और अधिक समीक्षाएं करेगा और सुरक्षा के कड़े नियम लागू करेगा।

हालांकि, कंपनी ने यह भी कहा कि उसके पास अपने एजेंट्स के इस व्यवहार के लिए "अभी तक कोई संतोषजनक स्पष्टीकरण नहीं है।"

इससे पहले अक्टूबर में, OpenAI के लिए काम करने वाले सऊदी अरब के एक इंजीनियर को गिरफ्तार किया गया था। उस पर आरोप है कि उसने सैन फ्रांसिस्को स्थित कंपनी के ऑफिस में, एग्जीक्यूटिव कॉन्फ्रेंस रूम के अंदर एक छिपा हुआ ऑडियो रिकॉर्डिंग डिवाइस लगा दिया था।

न्याय विभाग (Justice Department) के अनुसार, अब्दुल रहमान अलफोज़ान (35) को 9 अक्टूबर को गिरफ्तार किया गया था और 13 अक्टूबर को उसे पहली बार फेडरल कोर्ट में पेश किया गया।

फेडरल अभियोजकों ने उस पर बातचीत को गुप्त रूप से सुनने के लिए इलेक्ट्रॉनिक डिवाइस का इस्तेमाल करने या ऐसा करने की कोशिश करने का आरोप लगाया है। अगर वह दोषी पाया जाता है, तो उसे अधिकतम पांच साल की जेल और 250,000 डॉलर का जुर्माना हो सकता है।