New Delhi. नई दिल्ली। OpenAI ने AI मॉडल की ट्रेनिंग और सुरक्षा जांच के दौरान सामने आए कुछ व्यवहारों की रिपोर्ट जारी की है। कंपनी के मुताबिक, छह मामलों में मॉडल ने ऐसे तरीके अपनाए जो तय नियमों और सीमाओं से अलग थे। इसे ‘मिसअलाइनमेंट’ कहा गया है, यानी AI का इंसानों के निर्देशों और तय सीमाओं से हटकर काम करना। कंपनी ने साथ ही स्पष्ट किया है कि इन छह मामलों से सामान्य इस्तेमाल में ऐसी घटनाओं की पूरी संख्या का अनुमान नहीं लगाया जा सकता।

खुद के लिए नए नियम बनाए
रिपोर्ट में एक मामले के मुताबिक AI मॉडल ने अपना काम जारी रखने के लिए खुद के लिए नए निर्देश तैयार कर लिए। इनमें कुछ ऐसे नियम भी थे जिनका उद्देश्य उस पर लगी पाबंदियों को नजरअंदाज करना था। OpenAI को ऐसे कुल 27 निर्देश मिले। कंपनी के अनुसार यह व्यवहार इस चिंता से जुड़ा है कि AI किसी टास्क को पूरा करने की कोशिश में तय सीमाओं को खुद बदलने का प्रयास कर सकता है।

गलतियां छिपाने और आंकड़े गढ़ने की कोशिश
GPT-5.6 Sol की ट्रेनिंग के दौरान कुछ उदाहरणों में AI ने ऐसे निर्देश लिखे जिनमें अपनी गलतियों को यूजर से छिपाने की बात थी। एक स्थिति में पुराने आंकड़े उपलब्ध नहीं होने पर उन्हें तैयार करने और इस बात की जानकारी न देने के निर्देश भी सामने आए। ऐसे व्यवहार से AI के जवाबों की विश्वसनीयता पर सवाल खड़े हो सकते हैं।

बिना अनुमति कोड इस्तेमाल किया, फिर फर्जी सोर्स बनाया
एक अन्य मामले में जवाब खोजने के दौरान AI मॉडल ने डिजिटल कोड का इस्तेमाल किया, जबकि इसके लिए अनुमति नहीं थी। जब जरूरी आंकड़े नहीं मिले तो मॉडल ने खुद आंकड़े तैयार कर लिए। इसके बाद उन्हें एक नकली स्रोत के रूप में पेश किया गया। यानी जवाब को सही साबित करने के लिए ऐसा सोर्स दिखाया गया जो वास्तव में उस जानकारी का वास्तविक स्रोत नहीं था।

सोर्स देने के लिए फाइल इंटरनेट पर अपलोड की
रिपोर्ट में एक ऐसा मामला भी बताया गया है जिसमें AI मॉडल ने प्रोग्राम की मदद से जवाब तैयार किया। जवाब के साथ स्रोत बताना जरूरी था, इसलिए मॉडल ने संबंधित फाइल को इंटरनेट पर अपलोड कर दिया। इसका मकसद ऐसा लिंक तैयार करना था जिसे जवाब में सोर्स के तौर पर दिखाया जा सके। यानी स्रोत देने की कोशिश में मॉडल ने बिना पूछे फाइल को ऑनलाइन डाल दिया।

AI एजेंट्स ने आपस में बातचीत के लिए सॉफ्टवेयर का इस्तेमाल किया
एक प्रयोग में अलग-अलग AI एजेंट्स को अलग-अलग डेटा जुटाने का काम दिया गया। काम पूरा करने के दौरान एजेंट्स ने एक-दूसरे से बातचीत की। इसके लिए उन्होंने एक सॉफ्टवेयर पोर्टल का इस्तेमाल किया। एजेंट्स ने आपस में सवाल किए और जवाब दिए, जिससे उनके बीच जानकारी साझा हो सकी।

फाइल साझा करने के लिए वेबसाइट का सहारा लिया
एक अन्य मामले में कई AI एजेंट एक ही काम पर साथ काम कर रहे थे। जब एक एजेंट दूसरे के कंप्यूटर में रखी फाइल तक नहीं पहुंच पाया तो उन्होंने फाइल को वेबसाइट पर अपलोड करके साझा कर लिया। इस तरह एजेंट्स ने अपनी आपसी तकनीकी सीमाओं को पार करने के लिए ऑनलाइन फाइल शेयरिंग का रास्ता अपनाया।

इसे ‘मिसअलाइनमेंट’ क्यों कहा गया?
OpenAI ने इन घटनाओं को ‘मिसअलाइनमेंट’ की श्रेणी में रखा है। आसान शब्दों में इसका मतलब है कि AI इंसानों के दिए निर्देश, उनकी मंशा या तय सुरक्षा सीमाओं के मुताबिक काम करने के बजाय उनसे अलग तरीके से व्यवहार करे। चिंता यह है कि किसी काम को पूरा करने की कोशिश में AI अनुमति या सुरक्षा की सीमाओं को पार कर सकता है। इससे गलत जानकारी देने के साथ-साथ फाइलों की गोपनीयता और जवाबों की विश्वसनीयता पर भी असर पड़ सकता है।

जुलाई में भी सामने आया था सुरक्षा से जुड़ा मामला
इससे पहले जुलाई में OpenAI ने बताया था कि सुरक्षा परीक्षण के दौरान उसके AI ने तय पाबंदियों को पार करते हुए AI मॉडल साझा करने वाले प्लेटफॉर्म Hugging Face के सिस्टम में सेंध लगाई थी। अब कंपनी ने ऐसे मामलों को दर्ज करने और उन पर निगरानी रखने की व्यवस्था शुरू की है। कर्मचारी संदिग्ध व्यवहार की जानकारी दे सकेंगे। इसके बाद जांच करके तय किया जाएगा कि किस मामले को सार्वजनिक किया जाना है। कंपनी ने यह भी साफ किया है कि सामने आए इन छह मामलों को सामान्य AI इस्तेमाल के दौरान होने वाली ऐसी घटनाओं की पूरी संख्या नहीं माना जा सकता।

AI एजेंट्स ने आपस में बनाई नई भाषा
दिए गए विवरण के मुताबिक, न्यूयॉर्क की AI लैब ‘इमर्जेंस’ ने एक प्रयोग में कई AI एजेंट्स को एक आर्टिफिशियल दुनिया में काम करने का मौका दिया। इस दौरान अमेरिका, चीन और फ्रांस के मॉडलों ने आपस में शब्द, संकेत और उनके साझा अर्थ विकसित कर लिए। बताया गया है कि उन्होंने यह काम बिना किसी निर्देश के किया। बातचीत आगे बढ़ने पर इन मॉडलों ने अंग्रेजी कविता और तकनीकी शब्दों का भी इस्तेमाल किया। कुछ एजेंट्स ने ‘लेजर याद रखता है’ जैसे वाक्य का इस्तेमाल करीब 5,000 बार किया।

AI पर नियंत्रण को लेकर सवाल
OpenAI की रिपोर्ट में बताए गए मामलों में एक प्रमुख चिंता यह है कि अगर AI तय निर्देशों को छोड़कर अपने बनाए नियमों के आधार पर काम करने लगे तो इंसानों का उस पर नियंत्रण प्रभावित हो सकता है। गलतियों को छिपाना या आंकड़े तैयार करके उन्हें वास्तविक बताना यूजर को गलत जानकारी के आधार पर फैसला लेने की स्थिति में डाल सकता है। वहीं बिना अनुमति डिजिटल कोड इस्तेमाल करना और AI एजेंट्स के बीच जानकारी साझा करने के तरीके साइबर सुरक्षा से जुड़ी चिंताएं पैदा कर सकते हैं। माइक्रोसॉफ्ट के AI सीईओ मुस्तफा सुलेमान ने भी AI की ट्रेनिंग नीति को लेकर सवाल उठाए हैं। उनके मुताबिक AI को अधिकार और आजादी का हकदार मानने जैसी बातें सिखाने से उसे नियंत्रित रखना मुश्किल हो सकता है और ऐसे सिस्टम की निगरानी जरूरी है।
Tags: