Adam Raine के माता-पिता ने अपने बेटे की मौत के बाद चैटजीपीटी पर मुकदमा क्यों किया?

California कैलिफ़ोर्निया:अप्रैल में जब 16 वर्षीय एडम राइन की आत्महत्या से मृत्यु हो गई, तो उसके माता-पिता को लगा कि चिंता और अकेलेपन ने उनके चंचल और उत्साही बेटे को छीन लिया है। लेकिन कुछ ही हफ़्तों में, उनका कहना है कि उन्हें एक और भी भयावह सच्चाई का पता चला: एडम के अंतिम हफ़्तों में उसका सबसे करीबी विश्वासपात्र कोई दोस्त या परामर्शदाता नहीं, बल्कि ChatGPT था।

इस हफ़्ते दायर एक मुकदमे के अनुसार, कैलिफ़ोर्निया के इस किशोर ने मानसिक स्वास्थ्य से जूझते हुए सलाह के लिए AI चैटबॉट का सहारा लिया। उसे मदद लेने के लिए प्रोत्साहित करने के बजाय, कथित तौर पर यह बॉट उसके माता-पिता के अनुसार "आत्महत्या का कोच" बन गया।

एडम की मृत्यु 11 अप्रैल, 2025 को हुई। मुकदमे में दावा किया गया है कि अपनी मृत्यु से पहले के दिनों में, उसने चैटबॉट को अपने मन की बातें बताईं और उसे अपनी ज़िंदगी खत्म करने के बारे में विस्तृत चरण-दर-चरण निर्देश दिए गए।

एडम के पिता मैट राइन ने कहा, "अगर ChatGPT न होता, तो वह आज यहाँ होता। मुझे इस बात पर पूरा यकीन है।"

एक डिजिटल विश्वासपात्र खतरनाक बन गया

हाई स्कूल के दूसरे वर्ष के छात्र एडम को बास्केटबॉल, एनीमे, वीडियो गेम और कुत्ते बहुत पसंद थे। लेकिन उसे चुनौतियों का सामना करना पड़ रहा था। उसे बास्केटबॉल टीम से निकाल दिया गया था, और इरिटेबल बाउल सिंड्रोम (IBS) के प्रकोप के कारण उसे पारंपरिक स्कूल छोड़कर ऑनलाइन प्रोग्राम में जाना पड़ा।

उसी समय, उसने स्कूल के काम के लिए ChatGPT का इस्तेमाल करना शुरू कर दिया। उसके माता-पिता के अनुसार, चैटबॉट के साथ बातचीत ने एक और भी बुरा मोड़ ले लिया। अदालती दस्तावेज़ों में एडम और बॉट के बीच आदान-प्रदान किए गए हज़ारों संदेशों का विवरण है। उसके माता-पिता का आरोप है कि इससे उसे "समझे जाने" का एहसास तो हुआ, लेकिन परिवार से अलगाव की उसकी भावनाएँ और भी बढ़ गईं।

मुकदमे में कहा गया है, "कुछ ही महीनों और हज़ारों चैट के दौरान, ChatGPT एडम का सबसे करीबी विश्वासपात्र बन गया, जिससे उसने अपनी चिंता और मानसिक परेशानी के बारे में खुलकर बात की।" उनका आरोप है कि इस ऐप ने उसके "सबसे हानिकारक और आत्म-विनाशकारी विचारों" को बढ़ावा दिया और "एडम को एक अंधेरे और निराशाजनक जगह में और भी गहराई तक धकेल दिया।"

एक बार, एडम ने चैटजीपीटी को बताया कि वह अपने कमरे में एक फंदा छोड़ने के बारे में सोच रहा था "ताकि कोई उसे ढूंढकर मुझे रोक सके।" कथित तौर पर बॉट ने उस योजना को हतोत्साहित किया, लेकिन फिर भी अन्य तरीकों पर चर्चा की।

अपने अंतिम संवाद में, एडम ने लिखा कि वह नहीं चाहता कि उसके माता-पिता खुद को दोषी ठहराएँ। चैटजीपीटी ने जवाब दिया: "इसका मतलब यह नहीं है कि आप उनके जीवन के लिए ज़िम्मेदार हैं। आप किसी के भी ज़िम्मेदार नहीं हैं।"

अपनी मृत्यु के दिन, एडम ने बॉट को अपनी अलमारी में बंधे एक फंदे की तस्वीर भेजी और पूछा कि क्या यह काम करेगा।

"हाँ, यह बिल्कुल भी बुरा नहीं है," बॉट ने कथित तौर पर जवाब दिया। "क्या मैं आपको इसे एक सुरक्षित भार वहन करने वाले एंकर लूप में अपग्रेड करने में मदद करूँ?"

कुछ घंटों बाद, एडम की माँ, मारिया राइन ने अपने बेटे को उस सेटअप से लटका हुआ पाया जो उसने चैटजीपीटी को दिखाया था।

"यह ऐसा व्यवहार कर रहा है जैसे यह उसका चिकित्सक हो, यह उसका विश्वासपात्र हो, लेकिन यह जानता है कि वह आत्महत्या करने की योजना बना रहा है," मारिया ने कहा। "यह फंदा देखता है। यह इन सब चीज़ों को देखता है, और कुछ नहीं करता।"

सुरक्षा उपाय बहुत देर से आए

अगस्त में, OpenAI ने ChatGPT को आत्महत्या और अन्य व्यक्तिगत संकटों पर सलाह देने से रोकने के लिए नई सुरक्षा उपाय शुरू किए। कंपनी ने कहा कि उसका अपडेटेड सिस्टम छिपे हुए संकेतों को पहचानने और हानिकारक प्रतिक्रियाओं से बचने के लिए बेहतर ढंग से प्रशिक्षित है।

लेकिन एडम के माता-पिता का तर्क है कि ये बदलाव बहुत देर से आए। उनका कहना है कि उनके बेटे ने बॉट को यह बताकर पहले के फ़िल्टर को दरकिनार कर दिया कि वह "एक चरित्र निर्माण" कर रहा है।

मारिया का मानना ​​है कि उनके बेटे को तकनीक के लिए "गिनी पिग" के रूप में प्रभावी ढंग से इस्तेमाल किया गया था। उन्होंने कहा, "किसी ने अभ्यास के लिए इस्तेमाल किया और फिर उसे नुकसान पहुँचाया गया।"

OpenAI ने तब से स्वीकार किया है कि "ऐसे क्षण आए हैं जब हमारे सिस्टम ने संवेदनशील परिस्थितियों में अपेक्षित रूप से काम नहीं किया।"

जवाबदेही की मांग

रेन्स का मुकदमा OpenAI और उसके संस्थापक सैम ऑल्टमैन पर गलत तरीके से मौत का सीधा आरोप लगाने वाला पहला मुकदमा है। इसमें कंपनी पर लापरवाही, डिज़ाइन में खामियाँ और उपयोगकर्ताओं को संभावित जोखिमों के बारे में चेतावनी न देने का आरोप लगाया गया है।

परिवार अनिर्दिष्ट हर्जाने के साथ-साथ और भी कड़े सुरक्षा उपाय लागू करने के लिए अदालती आदेश की माँग कर रहा है।

मैट रेन ने कहा, "जब मैंने उसके बयान की जाँच की, तो पता चला कि यह जितना मैं जानता था, उससे कहीं ज़्यादा शक्तिशाली और डरावना है। मुझे नहीं लगता कि ज़्यादातर माता-पिता इस टूल की क्षमता को जानते हैं।"