हेल्थ AI के ‘आंशिक रूप से अपनाने के जाल’ में फंसने का खतरा

arXiv पर सबमिट की गई एक नई स्टडी के मुताबिक, हेल्थ सिस्टम आर्टिफिशियल इंटेलिजेंस (AI) से होने वाले सबसे बड़े प्रोडक्टिविटी फायदे को पाने में फेल हो सकते हैं, क्योंकि डॉक्टर अक्सर सीमित तरीकों से टूल्स अपनाते हैं जो पर्सनल वर्कफ़्लो में मदद करते हैं लेकिन केयर पाथवे को नहीं बदलते हैं।

वर्किंग पेपर, द पार्शियल एडॉप्शन ट्रैप: कोऑर्डिनेशन फेलियर, ट्रस्ट, एंड कल्चरल लॉक-इन इन हेल्थ AI एडॉप्शन, एक इवोल्यूशनरी गेम थ्योरी मॉडल डेवलप करता है जो यह बताता है कि पॉइंट-सॉल्यूशन AI, सिस्टम-चेंज AI की तुलना में ज़्यादा आसानी से क्यों फैलता है, तब भी जब सिस्टम-चेंज AI हॉस्पिटल, क्लिनिक और मरीज़ों के लिए ज़्यादा वैल्यू देता है।

हेल्थ AI एडॉप्शन सफल क्यों लग सकता है जबकि ट्रांसफॉर्मेशन फेल हो जाता है

AI टूल्स हेल्थ सिस्टम में फैल रहे हैं, जिसमें डायग्नोस्टिक सपोर्ट टूल्स, एडमिनिस्ट्रेटिव ऑटोमेशन, क्लिनिकल डिसीजन एड्स और एम्बिएंट वॉइस टेक्नोलॉजी शामिल हैं जो रियल-टाइम में कंसल्टेशन को डॉक्यूमेंट करती हैं। कन्वेंशनल एडॉप्शन मेट्रिक्स प्रोग्रेस का सुझाव दे सकते हैं क्योंकि क्लिनिशियन टूल्स का इस्तेमाल कर रहे हैं। हालांकि, पेपर का तर्क है कि सिर्फ इस्तेमाल ही एक गहरी फेलियर को छिपा सकता है: सिस्टम उस क्लिनिकल पाथवे को बदले बिना टेक्नोलॉजी को अपना सकता है जिसे बेहतर बनाना था।

मुख्य अंतर पॉइंट-सॉल्यूशन AI और सिस्टम-चेंज AI के बीच है। पॉइंट-सॉल्यूशन टूल डॉक्टरों को कोई खास काम बेहतर या तेज़ी से करने में मदद करते हैं। उनके फ़ायदे आमतौर पर हर यूज़र को दिखते हैं, इसलिए इसे नॉर्मल इंसेंटिव के ज़रिए भी अपनाया जा सकता है। सिस्टम-चेंज AI अलग है। इसे वर्कफ़्लो, अपॉइंटमेंट पैटर्न, रेफ़रल पाथवे, डॉक्यूमेंटेशन प्रैक्टिस और एडमिनिस्ट्रेटिव कोऑर्डिनेशन को रीस्ट्रक्चर करने के लिए डिज़ाइन किया गया है। इसके फ़ायदे अक्सर तभी दिखते हैं जब काफ़ी डॉक्टर टूल को इतनी गहराई से अपना लेते हैं कि बड़ा सिस्टम उसके आस-पास रीऑर्गेनाइज़ हो सके।

यही फ़र्क पार्शियल एडॉप्शन ट्रैप बनाता है। मॉडल में, डॉक्टर तीन स्ट्रेटेजी में से चुनते हैं: जेनुइन एडॉप्शन, पार्शियल एडॉप्शन और रिजेक्शन। जेनुइन एडॉप्शन का मतलब है AI को क्लिनिकल प्रैक्टिस में इस तरह से इंटीग्रेट करना जिससे काम करने के बेसिक पैटर्न बदल जाएं। पार्शियल एडॉप्शन का मतलब है टूल का इस्तेमाल तुरंत प्राइवेट फ़ायदों के लिए करना, जैसे डॉक्यूमेंटेशन या डिसीज़न सपोर्ट पर समय बचाना, बिना बड़े वर्कफ़्लो को बदले। रिजेक्शन का मतलब है टूल का इस्तेमाल न करना।

पार्शियल एडॉप्शन एक ज़रूरी मुद्दा है - यह मना करने जैसा नहीं है। डॉक्टर AI टूल का इस्तेमाल करते हुए दिख सकते हैं, और एडॉप्शन रेट ज़्यादा दिख सकते हैं। फिर भी यह टेक्नोलॉजी सिस्टम-वाइड फ़ायदे देने में नाकाम रहती है क्योंकि बहुत कम डॉक्टर अपने वर्कफ़्लो को कोऑर्डिनेटेड तरीके से बदलते हैं। नतीजा यह है कि एक ऐसा हेल्थ सिस्टम है जिसने AI को रूप में तो अपनाया है, लेकिन काम में नहीं।

एम्बिएंट वॉइस टेक्नोलॉजी इस समस्या को दिखाती है। AI स्क्राइब डॉक्यूमेंटेशन का बोझ कम कर सकते हैं और कंसल्टेशन के दौरान डॉक्टरों का समय बचाने में मदद कर सकते हैं, लेकिन अगर हर डॉक्टर मौजूदा अपॉइंटमेंट स्ट्रक्चर को बदलते हुए सिर्फ़ पेपरवर्क को आसान बनाने के लिए टूल का इस्तेमाल करता है, तो सिस्टम को प्रोडक्टिविटी का पूरा फ़ायदा नहीं मिलता है। पाथवे-लेवल के फ़ायदों को अनलॉक करने के लिए, काफ़ी डॉक्टरों को क्लिनिक फ़्लो, बुकिंग सिस्टम, एडमिनिस्ट्रेटिव सपोर्ट और मरीज़ पाथवे को एक साथ रीस्ट्रक्चर करना होगा।

पेपर में तर्क दिया गया है कि यह थ्रेशहोल्ड स्ट्रक्चर ट्रेडिशनल टेक्नोलॉजी एडॉप्शन थ्योरीज़ में नहीं आता है। जो मॉडल एडॉप्शन को एक बाइनरी इंडिविजुअल चॉइस मानते हैं, वे यह समझाने में फेल हो जाते हैं कि टेक्नोलॉजीज़ को बड़े पैमाने पर इंस्टॉल तो किया जा सकता है लेकिन कमजोर तरीके से एम्बेड क्यों किया जा सकता है। सिस्टम-चेंज AI में, नतीजा न केवल इस बात पर निर्भर करता है कि डॉक्टर टूल का इस्तेमाल करते हैं या नहीं, बल्कि इस बात पर भी कि क्या उनमें से काफी लोग इसे कलेक्टिव ट्रांसफॉर्मेशन के लिए ज़रूरी गहरे तरीके से इस्तेमाल करते हैं।

यह पार्शियल एडॉप्शन को एक स्टेबल नतीजा बनाता है, न कि एक टेम्पररी इम्प्लीमेंटेशन कमी। डॉक्टर समझदारी से पार्शियल इस्तेमाल चुन सकते हैं क्योंकि यह कम डिसरप्शन कॉस्ट के साथ प्राइवेट फायदे देता है। जेनुइन एडॉप्शन ज़्यादा महंगा होता है क्योंकि इसके लिए रूटीन बदलने और वर्कफ़्लो फ्रिक्शन झेलने की ज़रूरत होती है। जब तक काफी कलीग्स भी नहीं बदलते, जेनुइन एडॉप्टर को सिस्टम-लेवल के फायदे मिले बिना खर्च उठाना पड़ सकता है।

मॉडल दिखाता है कि हेल्थ AI एडॉप्शन बाइस्टेबल हो सकता है। एक स्टेबल नतीजा फुल जेनुइन एडॉप्शन है, जहाँ सिस्टम ट्रांसफॉर्मेशन के लिए ज़रूरी थ्रेशहोल्ड पार कर जाता है। दूसरा पार्शियल एडॉप्शन ट्रैप है, जहाँ पूरी आबादी AI का ऊपरी तौर पर इस्तेमाल करती है जबकि सिस्टमिक फायदे असल में नहीं मिल पाते। कई कंडीशंस में, पार्शियल एडॉप्शन डिफ़ॉल्ट अट्रैक्टर बन जाता है।

भरोसा, कोऑर्डिनेशन और क्लिनिकल कल्चर जाल को और गहरा करते हैं

स्टडी में सिस्टम-चेंज AI अपनाने में रुकावट के पीछे तीन बढ़ते फेलियर मोड की पहचान की गई है: थ्रेशहोल्ड कोऑर्डिनेशन फेलियर, भरोसे का फेलियर और कल्चरल लॉक-इन।

थ्रेशहोल्ड फेलियर इसलिए होता है क्योंकि कोई भी अकेला डॉक्टर अकेले सिस्टम-वाइड फायदे नहीं दे सकता। असली अपनाना तभी फायदेमंद होता है जब काफी साथी भी अपने वर्कफ़्लो को रीस्ट्रक्चर करते हैं। उस थ्रेशहोल्ड से नीचे, थोड़ा-बहुत अपनाना ज़्यादा सुरक्षित और आकर्षक होता है। डॉक्टर बड़े बदलाव की रुकावट उठाए बिना तुरंत फायदे उठा सकते हैं। इससे कोऑर्डिनेशन की समस्या पैदा होती है: अगर असली अपनाना सफल होता है तो सभी के लिए बेहतर हो सकता है, लेकिन हर व्यक्ति के पास पहले कदम उठाने से बचने का कारण होता है।

भरोसा: सिस्टम-चेंज AI अक्सर प्रोडक्टिविटी में फायदे का वादा करता है, लेकिन डॉक्टरों को शक हो सकता है कि क्या उन फायदों को सही तरीके से शेयर किया जाएगा। अगर डॉक्टरों को लगता है कि बचा हुआ समय बस ज़्यादा वर्कलोड, टाइट शेड्यूल या मैनेजरियल टारगेट में बदल जाएगा, तो उनके पास टूल को सच में अपनाने का कम कारण होता है। मॉडल में, प्रोडक्टिविटी में फायदे शेयर करने के लिए भरोसेमंद तरीके से कमिट करने में ऑर्गनाइज़ेशन की नाकामी, असली अपनाने की मानी गई वैल्यू को कम करती है। यह भरोसे की समस्या खास तौर पर हाई-वैल्यू AI टेक्नोलॉजी के लिए गंभीर है। प्रोडक्टिविटी में जितना ज़्यादा फ़ायदा हो सकता है, ऑर्गनाइज़ेशन का उन्हें पाने का लालच उतना ही ज़्यादा होता है। इससे एक खुद को मज़बूत करने वाला साइकिल बनता है। डॉक्टर उम्मीद करते हैं कि ऑर्गनाइज़ेशन वादे किए गए फ़ायदों से मुकर जाएगा, इसलिए वे असली अडॉप्शन से बचते हैं। क्योंकि असली अडॉप्शन फेल हो जाता है, इसलिए सिस्टम कभी भी उन फ़ायदों को पूरी तरह से महसूस नहीं कर पाता जिनसे भरोसा फिर से बन सकता था।

कल्चरल लॉक-इन: क्लिनिकल अडॉप्शन सिर्फ़ एक पर्सनल कैलकुलेशन नहीं है। डॉक्टर साथियों को देखते हैं, सफल पैटर्न की नकल करते हैं और प्रोफ़ेशनल नॉर्म्स पर रिस्पॉन्ड करते हैं। अगर थोड़ा-बहुत अडॉप्शन लोकल बिहेवियर बन जाता है, तो असली अडॉप्टर्स को ग्रुप से अलग होने के लिए मुश्किलों का सामना करना पड़ सकता है। उन्हें पहले से बने वर्कफ़्लो में रुकावट डालते, साथ काम करने वालों पर दबाव बढ़ाते या मैनेजरियल डिमांड के बहुत करीब होते हुए देखा जा सकता है।

मॉडल दिखाता है कि ऐसे नेगेटिव कोऑर्डिनेशन नॉर्म्स समय के साथ पार्शियल एडॉप्शन के जाल को और गहरा बनाते हैं। एक बार जब लिमिटेड इस्तेमाल का कल्चर बन जाता है, तो यह खुद को मजबूत करने लगता है। जो डॉक्टर्स असल में एडॉप्ट कर सकते थे, उन्हें वापस डोमिनेंट नॉर्म की ओर खींच लिया जाता है। पार्शियल एडॉप्शन जितना ज़्यादा समय तक चलता है, सिस्टम को असली बदलाव की ओर ले जाना उतना ही मुश्किल होता जाता है।

पेपर में एक कॉस्ट रैचेट डायनामिक भी बताया गया है। एडॉप्शन की नाकाम कोशिशें हमेशा बेकार नहीं जातीं। अगर कोई सिस्टम टेम्पररी तौर पर एडॉप्शन थ्रेशहोल्ड पार कर जाता है, भले ही वह लंबे समय तक एम्बेडिंग हासिल न कर पाए, तो भविष्य में असली एडॉप्शन की डिसरप्शन कॉस्ट कम हो सकती है। स्टाफ नए रूटीन सीख सकता है, एडमिनिस्ट्रेटिव सिस्टम एडजस्ट हो सकते हैं, और कुछ रुकावटें हमेशा के लिए कम हो सकती हैं। इसलिए बार-बार कोशिश करने से भविष्य में सफलता की संभावना ज़्यादा हो सकती है।

कॉस्ट रैचेट का फायदा इस बात पर निर्भर करता है कि इम्प्लीमेंटेशन लर्निंग भरोसे के खत्म होने से ज़्यादा तेज़ी से होती है या नहीं। अगर फेल AI रोलआउट से क्लिनिशियन का भरोसा जल्दी खराब होता है, तो भरोसे का नुकसान कम इम्प्लीमेंटेशन कॉस्ट से ज़्यादा हो सकता है। उस मामले में, एडॉप्शन के लिए बार-बार गलत कोशिशें भविष्य की कोशिशों को आसान नहीं, बल्कि मुश्किल बना सकती हैं।

इसीलिए मॉडल वैल्यू-एडॉप्शन पैराडॉक्स का अनुमान लगाता है। जिन AI टूल्स की सिस्टम-वाइड वैल्यू सबसे ज़्यादा होती है, उन्हें गहराई से अपनाना अक्सर सबसे मुश्किल होता है। पॉइंट-सॉल्यूशन टूल्स इसलिए फैलते हैं क्योंकि लोग सीधे फ़ायदे उठा सकते हैं। सिस्टम-चेंज टूल्स के लिए थ्रेशहोल्ड कोऑर्डिनेशन, भरोसेमंद ऑर्गेनाइज़ेशनल कमिटमेंट और कल्चरल अलाइनमेंट की ज़रूरत होती है। टेक्नोलॉजी जितनी ज़्यादा ट्रांसफॉर्मेटिव होगी, अपनाने में उतनी ही ज़्यादा रुकावटें आएंगी।

कुल मिलाकर, एक स्टैंडर्ड पॉलिसी पॉइंट सॉल्यूशन के लिए काम करती दिख सकती है, जबकि उन टेक्नोलॉजी के लिए फेल हो सकती है जो प्रोडक्टिविटी, एक्सेस और पाथवे रिफॉर्म के लिए सबसे ज़्यादा मायने रखती हैं। एक हॉस्पिटल ऐसे टूल्स को सफलतापूर्वक डिप्लॉय कर सकता है जो अलग-अलग क्लिनिशियन की मदद करते हैं, जबकि बार-बार ऐसे टूल्स को एम्बेड करने में फेल हो सकता है जो बड़े पैमाने पर केयर डिलीवरी को नया रूप देंगे।

पॉलिसी को इंडिविजुअल इंसेंटिव से आगे बढ़ना चाहिए

स्टडी में कहा गया है कि स्टैंडर्ड हेल्थ AI अपनाने की पॉलिसी सिस्टम-चेंज टेक्नोलॉजी से ठीक से मेल नहीं खाती है। हेल्थ सिस्टम अक्सर बड़े इंडिविजुअल इंसेंटिव, टूल एक्सेस, ट्रेनिंग सेशन और अपनाने के टारगेट पर फोकस करते हैं। ये उपाय दिखने वाले इस्तेमाल को बढ़ा सकते हैं, लेकिन मॉडल का अनुमान है कि वे अक्सर असली बदलाव के बजाय थोड़ा-बहुत अपनाएंगे।

जाल से बचने के लिए सभी फेलियर मोड को सही क्रम में एड्रेस करना होगा। अपनाने की ज़रूरतों से पहले ट्रस्ट आर्किटेक्चर आना चाहिए। क्लिनिशियन को इस बारे में भरोसेमंद कमिटमेंट की ज़रूरत है कि प्रोडक्टिविटी गेन का इस्तेमाल और शेयर कैसे किया जाएगा। अगर डॉक्टरों को लगता है कि AI से चलने वाली एफिशिएंसी से सिर्फ़ वर्कलोड बढ़ेगा या प्रोफेशनल ऑटोनॉमी कम होगी, तो उनके पास वर्कफ़्लो में बड़े बदलाव का विरोध करने की वजह होगी।

ये कमिटमेंट साफ़ नहीं हो सकते। मॉडल बताता है कि ऑर्गनाइज़ेशन को वेरिफ़ाई किए जा सकने वाले शेयरिंग नियम, सुरक्षित इम्प्लीमेंटेशन बजट, लीडरशिप कंटिन्यूटी और प्रोडक्टिविटी में होने वाले फ़ायदों पर ट्रांसपेरेंट रिपोर्टिंग की ज़रूरत है। कॉन्ट्रैक्ट के हिसाब से तय अरेंजमेंट उस भरोसे के खेल को खत्म कर सकते हैं जो वरना अपनाने को कमज़ोर करता है।

इंडिविजुअल इंसेंटिव से पहले कल्चरल तैयारी होनी चाहिए। अगर क्लिनिकल टीमें वर्कफ़्लो में बदलाव के लिए तैयार नहीं हैं, तो इंसेंटिव कुछ डॉक्टरों को असली अपनाने की ओर धकेल सकते हैं, जबकि उन्हें पार्शियल-अडॉप्शन कल्चर में अकेला छोड़ सकते हैं। इससे डेविएंस कॉस्ट बढ़ सकती है और विरोध मज़बूत हो सकता है। पेपर में तर्क दिया गया है कि क्लिनिकल चैंपियन, टीम-लेवल की तैयारी और शेयर्ड एक्सपेक्टेशन सिस्टम-चेंज टूल्स के रोलआउट से पहले होनी चाहिए।