नया सॉफ्टवेयर ट्रैक कर सकता है कि एआई ने कितनी जानकारी ली है: अध्ययन

लंदन (एएनआई): दुनिया भर में जनरेटिव आर्टिफिशियल इंटेलिजेंस (एआई) सिस्टम में बढ़ती रुचि के साथ, सरे विश्वविद्यालय के शोधकर्ताओं ने सॉफ्टवेयर बनाया है जो यह सत्यापित करने में सक्षम है कि एआई किसी संगठन के डिजिटल डेटाबेस से कितनी जानकारी प्राप्त करता है। .

सरे के सत्यापन सॉफ़्टवेयर का उपयोग कंपनी के ऑनलाइन सुरक्षा प्रोटोकॉल के हिस्से के रूप में किया जा सकता है, जिससे संगठन को यह समझने में मदद मिलती है कि क्या AI ने बहुत अधिक सीखा है या संवेदनशील डेटा तक पहुँचा है।

सॉफ्टवेयर यह पहचानने में भी सक्षम है कि क्या एआई ने पहचान की है और सॉफ्टवेयर कोड में खामियों का फायदा उठाने में सक्षम है। उदाहरण के लिए, एक ऑनलाइन गेमिंग संदर्भ में, यह पहचान कर सकता है कि एआई ने कोडिंग गलती का शोषण करके ऑनलाइन पोकर में हमेशा जीतना सीखा है या नहीं।

डॉ. सोलोफोमपियोना फोर्टुनाट राजोना सरे विश्वविद्यालय में गोपनीयता के औपचारिक सत्यापन में रिसर्च फेलो हैं और पेपर के प्रमुख लेखक हैं। उन्होंने कहा:

"कई अनुप्रयोगों में, एआई सिस्टम एक-दूसरे के साथ या मनुष्यों के साथ बातचीत करते हैं, जैसे कि राजमार्ग या अस्पताल रोबोट में स्वयं ड्राइविंग कार। एक बुद्धिमान एआई डेटा सिस्टम क्या जानता है, यह पता लगाना एक सतत समस्या है जिसे काम करने में हमें सालों लग गए हैं के लिए समाधान।

"हमारा सत्यापन सॉफ़्टवेयर यह अनुमान लगा सकता है कि एआई उनकी बातचीत से कितना सीख सकता है, क्या उनके पास पर्याप्त ज्ञान है जो सफल सहयोग को सक्षम बनाता है, और क्या उनके पास बहुत अधिक ज्ञान है जो गोपनीयता को तोड़ देगा। एआई ने जो सीखा है उसे सत्यापित करने की क्षमता के माध्यम से, हम दे सकते हैं संगठनों को सुरक्षित सेटिंग्स में एआई की शक्ति को सुरक्षित रूप से उजागर करने का विश्वास है।"

सरे के सॉफ्टवेयर के बारे में अध्ययन ने औपचारिक तरीकों पर 25वीं अंतर्राष्ट्रीय संगोष्ठी में सर्वश्रेष्ठ पेपर का पुरस्कार जीता।

सरे विश्वविद्यालय में जन-केंद्रित एआई संस्थान के निदेशक प्रोफेसर एड्रियन हिल्टन ने कहा:

"पिछले कुछ महीनों में जेनेरेटिव एआई मॉडल में जनता और उद्योग की दिलचस्पी में भारी उछाल आया है, जो चैटजीपीटी जैसे बड़े भाषा मॉडल में प्रगति से प्रेरित है। टूल्स का निर्माण जो जेनेरेटिव एआई के प्रदर्शन को सत्यापित कर सकते हैं, उनकी सुरक्षा और सुरक्षा को कम करने के लिए आवश्यक है। जिम्मेदार तैनाती। यह शोध प्रशिक्षण में उपयोग किए जाने वाले डेटासेट की गोपनीयता और अखंडता को बनाए रखने की दिशा में एक महत्वपूर्ण कदम है।" (एएनआई)