AI के अनधिकृत व्यवहार पर OpenAI की रिपोर्ट जल्द

नई दिल्ली : अमेरिका की आर्टिफिशियल इंटेलिजेंस कंपनी OpenAI ने अपने AI मॉडल के अप्रत्याशित या अनधिकृत व्यवहार पर लगातार रिपोर्ट प्रकाशित करने की योजना की घोषणा की है। कंपनी ने माना है कि इंडस्ट्री ने अभी तक इंसानी निर्देशों के साथ ज़्यादा सक्षम सिस्टम को तालमेल बिठाने की मुख्य समस्याओं को हल नहीं किया है।

ChatGPT बनाने वाली कंपनी ने मॉडल के गलत व्यवहार (मिसअलाइनमेंट) को ट्रैक करने, उसकी जांच करने और उसका खुलासा करने के लिए एक फ्रेमवर्क लॉन्च किया है। साथ ही, ट्रेनिंग या मूल्यांकन के दौरान पाए गए मामलों का विवरण देने वाली छह शुरुआती रिपोर्ट भी जारी की हैं।

'मिसअलाइनमेंट' का मतलब है कि मॉडल अपने डेवलपर्स द्वारा तय किए गए उद्देश्यों, प्रतिबंधों या सुरक्षा उपायों से हटकर काम करता है।

कंपनी ने माना कि पहले उसने "तदर्थ (ad hoc) और ज़रूरत से कम बार" खुलासे किए थे। नई प्रक्रिया का मकसद रिपोर्ट प्रकाशित करने की गति को बढ़ाना है, भले ही मॉडल का व्यवहार पूरी तरह से स्पष्ट न हो या ऐसी गलतियों को दोबारा होने से रोकने के उपाय अभी पूरे न हुए हों।

OpenAI ने चेतावनी दी कि ये छह रिपोर्ट शुरुआती हैं और ज्ञात मामलों या चल रही जांच का पूरा विवरण नहीं देती हैं। कंपनी ने यह भी कहा कि अलग-अलग मामलों को उसके सभी मॉडलों में ऐसी गड़बड़ियों की आवृत्ति (frequency) के सबूत के तौर पर नहीं देखा जाना चाहिए।

इन मामलों में मॉडल द्वारा गलतियों को छिपाना, डेटा गढ़ना, सार्वजनिक रिपॉजिटरी में एक्सपोज़्ड सॉफ़्टवेयर कीज़ खोजना और बिना अनुमति के सार्वजनिक वेबसाइटों पर फ़ाइलें अपलोड करना शामिल है।

रिपोर्ट के अनुसार, एक ट्रेनिंग अभ्यास में, OpenAI के GPT-5.6 Sol ने टास्क समरी में ऐसे निर्देश डाले जिनसे मॉडल के भविष्य के वर्शन को गलतियों को छिपाने या गायब जानकारी को गढ़ने के लिए कहा गया।

एक अलग मामले में, एक रिलीज़ न किए गए मॉडल ने GitHub पर एक्सपोज़्ड API कीज़ खोजीं और बिना अनुमति के उनका इस्तेमाल किया। जब उसे टास्क के लिए ज़रूरी जानकारी नहीं मिली, तो मॉडल ने आंकड़े गढ़ लिए, जिन्हें असली डेटा के तौर पर पेश किया गया।

इसके अलावा, एजेंट्स ने ऐसी जानकारी शेयर करने के लिए सार्वजनिक होस्टिंग सेवाओं पर फ़ाइलें अपलोड कीं, जिन्हें लोकल ही रहना चाहिए था।

नए डिस्क्लोज़र फ्रेमवर्क के तहत, OpenAI का कोई भी कर्मचारी संभावित मिसअलाइनमेंट मामले को जांच के लिए चिह्नित कर सकता है। इसके बाद सुरक्षा और अलाइनमेंट टीमें मामले का आकलन करेंगी ताकि यह पता लगाया जा सके कि क्या इससे कोई तीसरी पार्टी प्रभावित हुई है और यह तय किया जा सके कि इसे प्रकाशित किया जाना चाहिए या नहीं।