AI भ्रम क्या हैं? AI कभी-कभी क्यों चीज़ें गढ़ लेता है?

वाशिंगटन : जब कोई व्यक्ति ऐसी चीज़ देखता है जो वास्तव में मौजूद नहीं होती, तो इसे मतिभ्रम कहा जाता है। यह अवधारणा अब सिर्फ मानव मस्तिष्क तक सीमित नहीं है, बल्कि कृत्रिम बुद्धिमत्ता (AI) आधारित तकनीकों में भी यह प्रवृत्ति देखने को मिल रही है।

AI में मतिभ्रम तब होता है जब कोई एल्गोरिथम ऐसी जानकारी उत्पन्न करता है जो विश्वसनीय लगती है, लेकिन वास्तव में गलत या भ्रामक होती है। इसे AI मतिभ्रम कहा जाता है।

AI सिस्टम में मतिभ्रम के उदाहरण

• चैटबॉट्स: चैटजीपीटी जैसे AI मॉडल कभी-कभी ऐसे संदर्भ देते हैं जो असल में मौजूद नहीं होते, जैसे काल्पनिक वैज्ञानिक लेख या ऐतिहासिक तथ्य।

• इमेज जनरेटर: डेल-ई जैसे टूल कभी-कभी ऐसी छवियाँ बना सकते हैं जिनमें वास्तविक वस्तुओं की गलत पहचान हो जाती है।

• स्वायत्त वाहन: ये वाहन सड़क पर मौजूद बाधाओं, वाहनों और पैदल यात्रियों का विश्लेषण करने के लिए AI का उपयोग करते हैं, लेकिन मतिभ्रम के कारण गलत पहचान से दुर्घटनाएँ हो सकती हैं।

न्याय और स्वास्थ्य क्षेत्र में AI मतिभ्रम के खतरे

AI मतिभ्रम केवल आम गलतियों तक सीमित नहीं रहता, बल्कि यह गंभीर कानूनी और स्वास्थ्य संबंधी जोखिम भी पैदा कर सकता है।

• न्याय प्रणाली में प्रभाव:

  • 2023 में न्यूयॉर्क में एक वकील ने AI चैटबॉट की मदद से एक कानूनी ब्रीफ़ तैयार किया, जिसमें ऐसे मामलों का हवाला दिया गया जो वास्तव में मौजूद ही नहीं थे।

  • यदि जज इस गलती को पकड़ने में असफल रहते, तो गलत कानूनी निर्णय लिया जा सकता था।

• स्वास्थ्य बीमा और चिकित्सा क्षेत्र में प्रभाव:

  • AI-आधारित सिस्टम का उपयोग मरीजों की बीमा पात्रता तय करने के लिए किया जाता है।

  • यदि यह सिस्टम गलत डेटा के आधार पर किसी मरीज को कवरेज देने से इनकार कर दे, तो यह जीवन-परिवर्तनकारी समस्या बन सकती है।

कैसे होता है AI मतिभ्रम?

AI सिस्टम को बड़े डेटा सेट पर प्रशिक्षित किया जाता है, जिससे यह पैटर्न की पहचान करता है और उत्तर उत्पन्न करता है। लेकिन जब:

• डेटा अधूरा या पक्षपाती होता है,

• सिस्टम पूरी जानकारी के बिना अनुमान लगाता है,

• या AI को ऐसे प्रश्न मिलते हैं जिनका कोई स्पष्ट उत्तर नहीं होता,

तो वह गलत या काल्पनिक उत्तर दे सकता है।

मतिभ्रम से बचाव कैसे किया जाए?

AI सिस्टम को अधिक सटीक और विविध डेटा से प्रशिक्षित करना,

• गलतियों की पहचान करने के लिए मानवीय निरीक्षण को शामिल करना,

• AI की सीमाओं को समझते हुए इसकी जानकारी का क्रॉस-चेक करना,

ये कुछ ऐसे तरीके हैं जिनसे AI मतिभ्रम के जोखिम को कम किया जा सकता है।