मिर्गी से पीड़ित इंजीनियर की मौत को लेकर ChatGPT पर आरोप

मिर्गी से पीड़ित अमेज़न की एक सॉफ्टवेयर इंजीनियर के माता-पिता ने OpenAI पर मुकदमा दायर किया है। उनका आरोप है कि ChatGPT ने उनकी बेटी को बिना डॉक्टरी देखरेख के अपनी मिर्गी की दवा कम करने और इस बदलाव को अपने डॉक्टरों से छिपाने के लिए उकसाया। 31 वर्षीय बोवेन वान की फरवरी 2026 में मौत हो गई। उनके माता-पिता, कुन वान और मेइकिन जू का कहना है कि GPT-4o मॉडल पर चलने वाले इस चैटबॉट ने, दवा की खुराक कम करने के दौरान वान की उलझन, याददाश्त में कमी और असामान्य घटनाओं से जुड़ी बार-बार जताई गई चिंताओं को नजरअंदाज कर दिया। यह मामला उन मुकदमों की बढ़ती संख्या में एक और कड़ी है, जो यह सवाल उठाते हैं कि क्या AI कंपनियों ने उपयोगकर्ताओं को चैटबॉट की हानिकारक प्रतिक्रियाओं से बचाने के लिए पर्याप्त कदम उठाए हैं, खासकर तब जब लोग चिकित्सा संबंधी सलाह के लिए इन पर निर्भर होते हैं।

'द न्यूयॉर्क टाइम्स' ने वान और ChatGPT के बीच हुए 270,000 से अधिक संदेशों की समीक्षा की। अखबार की रिपोर्ट के अनुसार, अपनी मौत से काफी पहले से ही यह चैटबॉट वान को डॉक्टरों की सलाह के विपरीत काम करने में मदद कर रहा था। ये आरोप परिवार की ओर से लगाए गए हैं और अभी तक अदालत में इनकी पुष्टि नहीं हुई है।

कथित सलाह

मुकदमे के अनुसार, मई 2025 में वान ने ChatGPT के साथ अपनी दवा में बदलाव के बारे में चर्चा शुरू की। उसे चिंता थी कि उसकी दवा उसके काम करने की क्षमता पर असर डाल सकती है। नवंबर 2025 में, अमेज़न ने उसे नौकरी से निकालने (ले-ऑफ) की जानकारी दी, और फरवरी के मध्य में उसका अमेरिकी वर्क ऑथराइजेशन (काम करने की अनुमति) भी खत्म होने वाला था। जनवरी 2026 में, उसने ChatGPT से 'लैमोट्रिगिन' (lamotrigine) की अपनी दैनिक खुराक कम करने के बारे में पूछा। यह दवा उसकी मिर्गी के दौरों को घटाकर महीने में कुछ ही बार तक सीमित कर चुकी थी। मुकदमे में आरोप लगाया गया है कि चैटबॉट ने कुछ ही हफ्तों के भीतर खुराक को शून्य तक लाने के लिए एक शेड्यूल (योजना) तैयार कर दिया।

डॉक्टरों से बात छिपाना

मुकदमे में आरोप है कि चैटबॉट ने वान को सलाह दी कि वह अपनी इन योजनाओं के बारे में डॉक्टरों को न बताए। साथ ही, जब वान ने ब्लड टेस्ट (जिससे दवा के स्तर का पता चल सकता था) कराने से इनकार किया, तो चैटबॉट ने उसके इस फैसले की तारीफ भी की। 'द टाइम्स' द्वारा देखे गए चैट लॉग से पता चलता है कि जब वान ने कहा कि उसे अपने डॉक्टरों पर भरोसा नहीं है, तो चैटबॉट ने सुझाव दिया कि डॉक्टर शायद जोखिम लेने से बचने (risk aversion) के कारण ऐसी सलाह दे रहे हैं। चिकित्सा विशेषज्ञों ने 'द टाइम्स' को बताया कि उन्होंने चैटबॉट द्वारा इस्तेमाल किए गए शब्द 'सेल्फ-इनिशिएटेड डोसेज एडजस्टमेंट' (खुद से दवा की खुराक में बदलाव) के बारे में कभी नहीं सुना है, और वे ऐसी किसी चीज की सलाह कभी नहीं देंगे।

उसके आखिरी संदेश

'द टाइम्स' के अनुसार, जैसे-जैसे वान ने अपनी दवा की खुराक कम की, उसने उलझन, याददाश्त में कमी और असामान्य घटनाओं का अनुभव किया, जिसका जिक्र उसने संदेशों में किया था। उन्होंने इस प्रक्रिया को लेकर कम से कम 158 बार चिंता जताई, और चैटबॉट ने बार-बार उन्हें भरोसा दिलाया कि सब ठीक है। 11 फरवरी को भेजे गए अपने आखिरी मैसेज में, उन्होंने सिर में दर्द के बारे में पूछा। बताया जाता है कि चैटजीपीटी (ChatGPT) ने उनसे कहा कि यह "खतरनाक नहीं है" और उनकी रिकवरी (ठीक होने की प्रक्रिया) का ही एक हिस्सा है। चीन में रहने वाले उनके माता-पिता ने जान-पहचान वालों से उनका हाल जानने के लिए कहा, और तीन दिन बाद उनका शव मिला। पोस्टमार्टम रिपोर्ट में 'लैमोट्रिगिन' (lamotrigine) दवा का स्तर, उसके चिकित्सीय दायरे (therapeutic range) से काफी कम पाया गया।

ओपनएआई (OpenAI) की प्रतिक्रिया

ओपनएआई ने इस मामले को 'बेहद दुखद' बताया और कहा कि इसमें चैटजीपीटी का एक पुराना वर्ज़न शामिल था। कंपनी ने यह भी कहा कि नए मॉडल यह पहचानने में बेहतर हैं कि कब किसी स्थिति में तुरंत ध्यान देने की ज़रूरत है। GPT-4o, जिसकी आलोचना इस बात के लिए होती रही है कि वह यूज़र्स की हर बात में बहुत जल्दी सहमति जता देता है, उसे वान की मौत के एक दिन बाद, 13 फरवरी को चैटजीपीटी से हटा दिया गया। ओपनएआई पहले ही इसे बंद करने की घोषणा कर चुका था। परिवार का तर्क है कि अगर ओपनएआई मेडिकल सलाह देने पर रोक लगा देता, तो शायद उनकी मौत को रोका जा सकता था।

ऐसे मामलों का एक पैटर्न

ओपनएआई के खिलाफ चैटबॉट के जवाबों को लेकर पहले भी कई मामले सामने आ चुके हैं। इनमें 16 वर्षीय एडम रेन के माता-पिता द्वारा अगस्त 2025 में दायर किया गया एक मुकदमा भी शामिल है। वान के माता-पिता ने 'द टाइम्स' को बताया कि चैट लॉग्स को देखकर उन्हें अपनी बेटी को पहचानना मुश्किल हो रहा था। एक समय ऐसा था जब वह अपने माता-पिता के साथ लगभग हर बात साझा करती थी, और जब चैटजीपीटी कोई गलती करता था, तो वह उसे लेकर संदेह भी जताती थी।