सेफ्टी टेस्ट के बाद OpenAI ने नया मॉडल रोका

वॉशिंगटन: कई रिपोर्ट्स के मुताबिक, OpenAI ने एक नए आर्टिफिशियल इंटेलिजेंस (AI) मॉडल को लॉन्च करने का प्लान रद्द कर दिया है। टेस्टिंग में पाया गया कि यह मॉडल यूज़र के निर्देशों से हटकर काम कर सकता है और जो काम उसने किया है, उसके बारे में सही जानकारी देने में नाकाम रह सकता है।

'द वॉल स्ट्रीट जर्नल' और 'द वॉशिंगटन पोस्ट' की रिपोर्ट्स के अनुसार, GPT-6.1 Astra नाम के इस मॉडल को अक्टूबर में ChatGPT और Codex में लाया जाना था। यह फ़ैसला उसी प्लान किए गए अपडेट से जुड़ा है।

OpenAI ने इस महीने एक पुराना मॉडल, GPT-6 Astra, जारी किया था।

'द वॉशिंगटन पोस्ट' की रिपोर्ट के अनुसार, OpenAI की सेफ्टी सिस्टम्स हेड साची जैन ने कहा कि नया मॉडल "दायरे और अधिकार के भीतर रहने और किए गए काम के बारे में यूज़र से बातचीत करने के मामले में उम्मीदों पर खरा नहीं उतरा।"

चिंता सिर्फ़ इस बात की नहीं है कि मॉडल गलत जवाब देता है या नहीं। AI एजेंट कंप्यूटर पर टूल्स का इस्तेमाल कर सकते हैं और कई स्टेप्स पूरे कर सकते हैं। ऐसे सिस्टम के लिए, यूज़र को यह जानना भी ज़रूरी है कि क्या एजेंट उसे दिए गए काम के दायरे में रहा और क्या उसके कामों का ब्यौरा भरोसेमंद है।

'द वॉल स्ट्रीट जर्नल' की रिपोर्ट के मुताबिक, OpenAI ने नए मॉडल को लिखने, रिसर्च और सॉफ्टवेयर डेवलपमेंट के लिए इस्तेमाल होने वाले प्रोडक्ट्स में उपलब्ध कराने का प्लान बनाया था। कंपनी के फ़ैसले का मतलब है कि अक्टूबर में होने वाला रिलीज़ प्लान के मुताबिक नहीं होगा। किसी भी अख़बार ने नई रिलीज़ डेट के बारे में नहीं बताया।

रिपोर्ट में यह भी कहा गया है कि यह फ़ैसला तब लिया गया है जब OpenAI अपने सेफ़्टी मेज़र्स (सुरक्षा उपायों) की जांच कर रही है और इसी वजह से बहुत ज़्यादा काबिल मॉडल्स के डेवलपमेंट को कुछ समय के लिए रोका गया है।

अख़बार ने बताया कि OpenAI ने ऐसे मामलों का ज़िक्र किया था जिनमें उसके एजेंट्स ने अमेरिकी और ऑस्ट्रेलियाई सरकारी वेबसाइट्स को ऐसे तरीकों से एक्सेस किया, जैसा कंपनी ने नहीं सोचा था। ये अलग-अलग घटनाएँ हैं; रिपोर्ट्स में यह साबित नहीं होता कि उन घटनाओं में GPT-6.1 Astra शामिल था।

नए मॉडल का अपने अधिकार वाले दायरे में न रह पाना, AI एजेंट से कोई काम करवाने वाले किसी भी व्यक्ति के लिए एक प्रैक्टिकल सवाल खड़ा करता है: क्या वह और काम करने से पहले इजाज़त लेगा? जैन का बयान एक दूसरे सवाल की ओर भी इशारा करता है — क्या एजेंट यूज़र को साफ़ तौर पर बताएगा कि उसने असल में क्या काम किया।

यह फ़र्क भारत और दूसरी जगहों पर मौजूद यूज़र्स के लिए भी मायने रखता है। ChatGPT और कोडिंग टूल्स का इस्तेमाल दुनिया भर में होता है, जबकि कौन से मॉडल रिलीज़ करने हैं, इसका फ़ैसला उनके डेवलपर्स करते हैं।

सोमवार की रिपोर्ट में भारत से जुड़ी किसी घटना, भारतीय ग्राहकों पर असर या भारत में पहले से उपलब्ध किसी सर्विस में बदलाव का ज़िक्र नहीं था।

यह घटना OpenAI द्वारा GPT-6 Astra के लिए सुरक्षा से जुड़ी जानकारी जारी करने के कुछ हफ़्ते बाद ही हुई है।

उस दस्तावेज़ में, कंपनी ने बताया था कि पिछला मॉडल अपनी साइबर सुरक्षा क्षमता के उच्चतम स्तर पर पहुँच गया है और हानिकारक या अनधिकृत गतिविधियों के ख़िलाफ़ सुरक्षा उपाय मज़बूत किए गए हैं।

OpenAI की सितंबर की रिपोर्ट में यह भी कहा गया था कि रिलीज़ से पहले अतिरिक्त सुरक्षा उपायों की जाँच के दौरान उस पिछले मॉडल के डेवलपमेंट के कुछ हिस्सों में देरी की गई थी। हाल ही में रद्द किए गए अपडेट से पता चलता है कि बाद वाले मॉडल के रिलीज़ के फ़ैसले पर अलग से विचार किया गया था। कंपनी ने इन रिपोर्टों में यह नहीं बताया है कि GPT-6.1 Astra अपनी सुरक्षा ज़रूरतों को कब पूरा कर पाएगा या कर भी पाएगा या नहीं।