हमें व्याख्यात्मक कृत्रिम बुद्धि की मांग करनी चाहिए

आर्टिफिशियल इंटेलिजेंस (एआई) के विकास के साथ, एआई टूल्स को शक्ति देने वाले एल्गोरिदम एक 'ब्लैक बॉक्स' बन गए हैं, जिसकी व्याख्या करना मुश्किल है। यहां तक कि उपयोग में आने वाले एल्गोरिदम को बनाने वाले इंजीनियर या डेटा वैज्ञानिक भी यह नहीं समझ सकते या समझा सकते हैं कि इस 'ब्लैक बॉक्स' के अंदर वास्तव में क्या होता है या एक विशेष एआई एल्गोरिदम एक विशिष्ट परिणाम पर कैसे पहुंचा। इसलिए व्याख्या योग्य AI (XAI), या व्याख्या योग्य AI के लिए अब एक बढ़ता हुआ आंदोलन है, ऐसे उपकरण बनाने के लिए जिनके निर्णय या भविष्यवाणियां हम मनुष्य समझ सकते हैं।

किसी विशेष आउटपुट पर एआई-सक्षम प्रणाली कैसे पहुंची है, इसे समझने के कई फायदे हैं। व्याख्यात्मकता डेवलपर्स को यह सुनिश्चित करने में मदद कर सकती है कि उनके एल्गोरिदम अपेक्षा के अनुरूप काम कर रहे हैं और नियामक मानकों को पूरा कर रहे हैं। यह एआई निर्णय से प्रभावित लोगों के लिए उस परिणाम को चुनौती देने या बदलने के लिए भी संभव बनाता है। लेकिन इससे पहले कि हम एआई मशीनों को व्याख्यात्मकता के इतने उच्च स्तर पर रखें, एक महत्वपूर्ण प्रश्न है: मनुष्य स्वयं को समझाने में कितने अच्छे हैं?

साइकिल चलाना एक बहुत ही सरल मानवीय क्रिया मानी जाती है। लेकिन आप साइकिल चलाने का तरीका कितनी अच्छी तरह समझा सकते हैं? इस सवारी की अधिकांश व्याख्याएं "हैंडलबार को ठीक से समायोजित करें जब तक कि आप उचित संतुलन प्राप्त न करें और फिर पैडल करना शुरू करें" से आगे नहीं बढ़ेंगे। बाइक सवार द्वारा उठाए जाने और आगे बढ़ने के लिए किए गए कई छोटे लेकिन महत्वपूर्ण कार्यों को सभी मौखिक स्पष्टीकरणों में याद किया जाता है। मनुष्यों के बीच इस स्पष्टीकरण की कमी को क्या समझाता है?

सोर्स: livemint