चिकित्सा उपकरणों में एल्गोरिदमिक पूर्वाग्रह हमें नुकसान पहुंचा सकते हैं

जितना अधिक हम अपने इलाज के लिए चिकित्सा उपकरणों पर भरोसा करते हैं, उतना ही अधिक जोखिम होता है कि उनके अंतर्निहित एल्गोरिदम में छोटी खामियां गलत निदान - या इससे भी बदतर हो सकती हैं। इनमें से अधिकांश एल्गोरिदम अपर्याप्त रूप से प्रतिनिधि रोगी डेटा पर प्रशिक्षित हैं और परिणामस्वरूप रोगी आबादी के विविध नमूने में शारीरिक लक्षणों में सामान्य अंतर को संबोधित करने में असमर्थ हैं। परिणामस्वरूप वे जो निदान उत्पन्न करते हैं वे कभी-कभी अप्रभावी और संभावित रूप से हानिकारक होते हैं।

ये पक्षपात - अक्सर मशीन लर्निंग और बायोमेट्रिक प्रोसेसिंग की जटिल परतों के अंदर गहरे छिपे होते हैं जो इन उपकरणों के केंद्र में होते हैं - विशेष रूप से कम प्रतिनिधित्व वाले जनसांख्यिकी में घातक हो सकते हैं।

सोर्स: livemint