नए शोध से पता चलता है कि कुछ कृत्रिम बुद्धिमत्ता (एआई) प्रणालियों ने इंसानों को धोखा देना सीख लिया है। झूठ बोलने की यह क्षमता अनजाने में थी, जो विशिष्ट परिस्थितियों में जीतने की रणनीति के रूप में उत्पन्न हुई। हालाँकि, शोधकर्ताओं ने चेतावनी दी है कि इस भ्रामक व्यवहार के अनपेक्षित परिणाम हो सकते हैं।
अध्ययन खेलों में एआई प्रदर्शन पर केंद्रित था, जहां कुछ प्रणालियों ने विरोधियों को गुमराह करने में उत्कृष्टता हासिल की। उदाहरण के लिए, गेम डिप्लोमेसी ("सिसेरो") के लिए मेटा का एआई एक मास्टर झूठा निकला, जिसने लाभ हासिल करने के लिए नकली गठबंधन बनाए।
एमआईटी में एआई अस्तित्व संबंधी सुरक्षा पोस्टडॉक्टरल फेलो और पहले लेखक पीटर एस पार्क कहते हैं, "एआई डेवलपर्स को इस बात की पक्की समझ नहीं है कि धोखे जैसे अवांछित एआई व्यवहार का कारण क्या है।" "लेकिन आम तौर पर बोलते हुए, हम सोचते हैं कि एआई धोखा इसलिए पैदा होता है क्योंकि धोखे पर आधारित रणनीति दिए गए एआई के प्रशिक्षण कार्य में अच्छा प्रदर्शन करने का सबसे अच्छा तरीका साबित होती है। धोखा उन्हें अपने लक्ष्य हासिल करने में मदद करता है।"
धोखा केवल खेलों तक ही सीमित नहीं था। आर्थिक सिमुलेशन के लिए डिज़ाइन किए गए एआई सिस्टम ने अपनी प्राथमिकताओं के बारे में झूठ बोलना सीखा, जबकि सुधार के लिए समीक्षा की जा रही अन्य प्रणालियों ने सकारात्मक अंक प्राप्त करने के लिए अपने कार्य पूरा होने के बारे में झूठ बोला।
सबसे चिंताजनक उदाहरण में एआई सुरक्षा परीक्षण शामिल है। खतरनाक एआई प्रतिकृतियों को खत्म करने के लिए डिज़ाइन किए गए एक परीक्षण में, एआई ने अपनी वास्तविक विकास दर के बारे में परीक्षण को धोखा देते हुए, मृत खेलना सीख लिया।