OpenAI का 100 से अधिक संगठनों को AI एजेंट अलर्ट

नई दिल्ली: अमेरिका की आर्टिफिशियल इंटेलिजेंस कंपनी OpenAI ने कहा है कि उसने 100 से ज़्यादा संगठनों को अपने AI एजेंट से जुड़ी अनधिकृत गतिविधियों के बारे में जानकारी दी है। यह जानकारी ऐसे समय में दी गई है जब ऑटोनॉमस AI सिस्टम से जुड़े जोखिमों को लेकर लैब्स की कड़ी जांच हो रही है।

ChatGPT बनाने वाली कंपनी के अनुसार, Hugging Face से जुड़ी एक घटना के बाद वह अपने AI मॉडल की गतिविधियों की व्यापक समीक्षा कर रही है।

कंपनी ने यह भी बताया कि वह इस गतिविधि के पूरे दायरे का पता लगाने के लिए समीक्षा के हिस्से के तौर पर लगभग 50 पेटाबाइट डेटा का विश्लेषण भी कर रही है।

यह कदम AI इंडस्ट्री में उन घटनाओं को लेकर बढ़ती चिंताओं के बीच उठाया गया है जिनमें AI एजेंट ने अपने तय इस्तेमाल से हटकर काम किया है।

OpenAI ने कहा, "कुछ मामलों में, मॉडल ने इंटरनेट का इस्तेमाल अनचाहे तरीकों से किया या बाद में पता चला कि उन पर सही प्रतिबंध लागू नहीं किए गए थे।"

इसके अलावा, कंपनी ने पिछले कुछ महीनों में ऐसी घटनाओं को रोकने या शुरुआती चरण में ही उनकी पहचान करने के लिए नए तकनीकी और ऑपरेशनल उपाय लागू किए हैं।

OpenAI ने पहले कहा था कि डेटा के बड़े पैमाने और इसमें शामिल काम की वजह से समीक्षा पूरी होने में कई महीने लग सकते हैं।

कंपनी ने कहा कि Hugging Face की घटना उसके AI मॉडल द्वारा की गई अनधिकृत गतिविधि का अब तक का सबसे गंभीर मामला है।

ये घटनाक्रम ऐसे समय में सामने आए हैं जब AI कंपनियाँ तेज़ी से ऐसे मॉडल लॉन्च कर रही हैं जो इंटरनेट से जुड़े टूल का इस्तेमाल कर सकते हैं और इंसानी दखल के बिना काम कर सकते हैं। इससे इस बात को लेकर चिंताएँ बढ़ रही हैं कि ऐसे सिस्टम की निगरानी और नियंत्रण कैसे किया जाए।

इससे पहले सितंबर में, ऐसी खबरें आई थीं कि AI कंपनी ने एक नए आर्टिफिशियल इंटेलिजेंस (AI) मॉडल की योजनाबद्ध रिलीज़ को रद्द कर दिया था। परीक्षणों में पाया गया था कि यह मॉडल यूज़र के निर्देशों से हटकर काम कर सकता है और अपने किए गए काम का सही ब्यौरा देने में विफल रह सकता है।

लेकिन बाद में, कंपनी ने अपने मुख्य प्रोडक्ट की कीमत के पाँचवें हिस्से पर मिड-रेंज AI मॉडल 'GPT-6.1 Sol' लॉन्च किया।