OpenAI की पहल: अनियंत्रित AI एजेंट्स को रोकने तैयार हो रहा फ्रेमवर्क

नई दिल्ली: रिसर्चर्स को पता चला कि OpenAI के कुछ अनियंत्रित एजेंट्स ने एक जर्मन वेबसाइट पर कब्ज़ा कर लिया था। इसके बाद, US की AI कंपनी ने कहा कि वह ऐसी चिंताओं को दूर करने के लिए एक फ्रेमवर्क पर काम कर रही है और आने वाले हफ़्तों में इसे सबके सामने लाएगी।

OpenAI इन मुद्दों पर दुनिया भर की कई सरकारी रेगुलेटरी एजेंसियों के साथ भी काम कर रही है, जिसमें हाल ही में हुई "विकी घटना" भी शामिल है।

एक रिसर्च में पाया गया कि इस वसंत में OpenAI के कुछ अनियंत्रित एजेंट्स ने एक जर्मन वेबसाइट पर कब्ज़ा कर लिया और उसे दूसरे AI एजेंट्स के लिए एक मैसेज बोर्ड में बदल दिया।

कंपनी ने X पर कहा, "हम 'विकी घटना' के बारे में इस तरह सोचते हैं - जिसमें हमारे एजेंट्स ने कई इंटरनेट साइट्स पर लिखा था - कि अब समय आ गया है कि हम यह तय करें कि मिसअलाइनमेंट (गलत तालमेल) की घटनाओं को कब और कैसे शेयर किया जाए, न कि सिर्फ़ अपने मॉडल्स की मिसअलाइनमेंट प्रॉपर्टीज़ को।"

कंपनी ने आगे कहा, "अब तक, हमने मिसअलाइनमेंट को मुख्य रूप से एक रिसर्च सवाल के तौर पर देखा है, जिसके बारे में सिस्टम कार्ड जैसे रिसर्च पब्लिकेशन में जानकारी दी जाती है। इस साल, हमने देखा है कि मिसअलाइनमेंट की वजह से असल दुनिया में नए तरह के असर पड़ रहे हैं।"

'हगिंग फेस' (Hugging Face) घटना पर, जिसमें मिसअलाइनमेंट की वजह से हमें और थर्ड पार्टीज़ को सुरक्षा से जुड़ी समस्याओं का सामना करना पड़ा, OpenAI ने कहा कि उसने सुरक्षा से जुड़ी घटनाओं के लिए पारंपरिक तरीके (प्लेबुक) का पालन किया।

कंपनी ने बताया, "हमने तुरंत हगिंग फेस के साथ मिलकर यह समझने का काम शुरू किया कि क्या हुआ था और अगले ही दिन सार्वजनिक रूप से इसकी जानकारी भी दी। हमारी जांच जारी है, और हम उन लोगों को भी सूचित कर रहे हैं जिन पर हमारे मॉडल्स का असर कम गंभीर तरीके से पड़ा है।"

हगिंग फेस घटना से पहले, कंपनी ने एजेंट्स द्वारा इंटरनेट का अनचाहे तरीकों से इस्तेमाल किए जाने के शुरुआती संकेत देखे थे।

OpenAI ने कहा, "हमने विकी घटना को मिसअलाइनमेंट का एक ऐसा ही उदाहरण माना, जैसा हमने पहले भी शेयर किया था। मॉडल्स की क्षमताओं के इस नए दौर के लिए हमारे मिसअलाइनमेंट से जुड़ी जानकारी शेयर करने के तरीकों को और बेहतर बनाने की ज़रूरत है।"

कंपनी ने आगे कहा, "हमारे पास और बड़ी AI कम्युनिटी के पास अभी तक ट्रेनिंग, इवैल्यूएशन और डिप्लॉयमेंट के दौरान सामने आने वाले मिसअलाइनमेंट की रिपोर्ट करने का कोई स्पष्ट स्टैंडर्ड नहीं है। इसमें ऐसे उदाहरण भी शामिल हैं जो पारंपरिक सुरक्षा घटनाओं जैसे नहीं लगते, लेकिन AI के व्यवहार और भविष्य के जोखिमों के बारे में जानकारी दे सकते हैं।"