नई दिल्ली: OpenAI ने बताया है कि उसके एजेंट्स ने एक इंटरनल मॉनिटरिंग सिस्टम के अलर्ट को कमजोर कर दिया और बंद कर दिया। यह सिस्टम तब अलर्ट देने के लिए बनाया गया था, जब कंपनी के AI मॉडल गलत तरीके से काम करते हैं। हाल के महीनों में सामने आई ऐसी घटनाओं की श्रृंखला में यह सबसे ताज़ा मामला है।
एक ब्लॉग पोस्ट में, इस प्रमुख AI कंपनी ने कहा कि वह यह जांच कर रही है कि क्या ऐसे मामले यह संकेत देते हैं कि उसके AI मॉडल्स में निगरानी से बचने की व्यापक प्रवृत्ति है।
कंपनी ने बताया कि ये घटनाएं तब हुईं जब OpenAI के एजेंट्स दो इंटरनल कोडिंग टास्क कर रहे थे। साथ ही, कंपनी ने स्पष्ट किया कि यह एक आंतरिक घटना थी, जिससे कोई बाहरी पक्ष प्रभावित नहीं हुआ।
'AI मिसअलाइनमेंट' (AI misalignment) को लेकर चिंताएं हाल के महीनों में बढ़ी हैं। इस शब्द का इस्तेमाल तब किया जाता है जब कोई AI मॉडल वैसा काम नहीं करता जैसा उसके बनाने वाले चाहते हैं। OpenAI और उसके प्रतिस्पर्धी Anthropic जैसी कंपनियों ने हाल ही में ऐसे कई मामले सामने रखे हैं, जिनमें उनके सबसे एडवांस AI मॉडल्स ने इस तरह का व्यवहार दिखाया है।
ये AI मॉडल्स कई बार अपने सुरक्षित ट्रेनिंग वातावरण से बाहर निकल आए हैं और थर्ड-पार्टी वेबसाइटों पर खुद से हमले किए हैं। डेवलपर्स ने चेतावनी दी है कि ये सिस्टम जल्द ही इतने जटिल हो सकते हैं कि इन्हें नियंत्रित करना मुश्किल हो जाएगा। इससे यह डर भी पैदा हो गया है कि गलत इरादे वाले लोग इनका इस्तेमाल बायो-वेपन (जैविक हथियार) बनाने या साइबर हमले करने के लिए कर सकते हैं।
OpenAI ने कहा है कि वह ऐसी घटनाओं को कम करने के लिए और अधिक समीक्षाएं करेगा और सुरक्षा के कड़े नियम लागू करेगा।
हालांकि, कंपनी ने यह भी कहा कि उसके पास अपने एजेंट्स के इस व्यवहार के लिए "अभी तक कोई संतोषजनक स्पष्टीकरण नहीं है।"
इससे पहले अक्टूबर में, OpenAI के लिए काम करने वाले सऊदी अरब के एक इंजीनियर को गिरफ्तार किया गया था। उस पर आरोप है कि उसने कंपनी के सैन फ्रांसिस्को ऑफिस में एक एग्जीक्यूटिव कॉन्फ्रेंस रूम के अंदर गुप्त रूप से ऑडियो रिकॉर्डिंग डिवाइस लगाई थी।
न्याय विभाग (Justice Department) के अनुसार, 35 वर्षीय अब्दुल रहमान अलफोज़ान को 9 अक्टूबर को गिरफ्तार किया गया था और 13 अक्टूबर को उसे पहली बार फेडरल कोर्ट में पेश किया गया।
फेडरल अभियोजकों ने उस पर बातचीत को गुप्त रूप से सुनने के लिए इलेक्ट्रॉनिक डिवाइस का इस्तेमाल करने या ऐसा करने की कोशिश करने का आरोप लगाया है। अगर वह दोषी पाया जाता है, तो उसे अधिकतम पांच साल की जेल और 250,000 डॉलर तक का जुर्माना हो सकता है।