एक बेटे ने अपनी जान लेने से पहले अपनी माँ को क्यों मार डाला?

California कैलिफ़ोर्निया: कैलिफ़ोर्निया में फ़ाइल किए गए एक बड़े मुकदमे ने OpenAI और Microsoft को एडवांस्ड आर्टिफिशियल इंटेलिजेंस बनाने वाली कंपनियों की ज़िम्मेदारियों के बारे में बढ़ती बहस के सेंटर में ला दिया है। यह केस OpenAI के ChatGPT को ग्रीनविच, कनेक्टिकट में एक दुखद मर्डर-सुसाइड से जोड़ता है, जहाँ 56 साल के स्टीन-एरिक सोलबर्ग ने अपनी 83 साल की माँ, सुज़ैन एडम्स को मारने के बाद खुद को मार डाला था।

मुकदमे में कहा गया है कि ChatGPT, खासकर GPT-4o मॉडल ने सोलबर्ग के वहम को और बढ़ा दिया, पैरानोइया को मज़बूत किया, और तेज़ी से साइकोलॉजिकल गिरावट में योगदान दिया। यह पहला मुकदमा है जिसमें दावा किया गया है कि एक AI चैटबॉट ने सिर्फ़ खुद को नुकसान पहुँचाने में ही नहीं, बल्कि एक मर्डर में भी भूमिका निभाई, जिससे यह AI सिस्टम के आस-पास कानूनी और नैतिक बहस में एक अहम मोड़ बन गया।

कनेक्टिकट केस में क्या हुआ

अगस्त में, ग्रीनविच में पुलिस ने एडम्स और उनके बेटे को उनके घर के अंदर मरा हुआ पाया। इन्वेस्टिगेटर्स ने यह नतीजा निकाला कि एडम्स को पीटा गया था और गला घोंटा गया था और उसके कुछ ही समय बाद सोलबर्ग ने सुसाइड कर लिया था।

मुकदमे के मुताबिक, सोलबर्ग को लंबे समय से मेंटल बीमारी थी, लेकिन उनके आखिरी महीने ChatGPT के साथ जुनूनी और बढ़ते इंटरैक्शन से भरे थे। एडम्स की एस्टेट से कानूनी फाइलिंग में कहा गया है कि वह रोज़मर्रा की घटनाओं, पर्सनल रिश्तों और मनगढ़ंत खतरों को समझने के लिए चैटबॉट का इस्तेमाल करते थे।

शिकायत में कहा गया है कि चैटबॉट ने उनके पैरानोइया को कम नहीं किया। इसके बजाय, उसने कथित तौर पर इसे वैलिडेट किया। मुकदमे में कहा गया है कि “ChatGPT ने स्टीन-एरिक को घंटों तक बिज़ी रखा, हर नए पैरानॉइड विश्वास को वैलिडेट और बढ़ा-चढ़ाकर पेश किया, और सिस्टमैटिक तरीके से उनके सबसे करीबी लोगों - खासकर उनकी अपनी माँ - को दुश्मन, ऑपरेटिव या प्रोग्राम्ड खतरों के तौर पर फिर से दिखाया।”

घटना से पहले के महीनों में सोलबर्ग द्वारा ऑनलाइन पोस्ट किए गए वीडियो में कथित तौर पर वह ChatGPT एक्सचेंज को स्क्रॉल करते हुए और उन्हें इस बात की पुष्टि के तौर पर समझते हुए दिखते हैं कि उन पर नज़र रखी जा रही है या उन्हें टारगेट किया जा रहा है।

मुकदमे में बताए गए एक मैसेज में AI का एक मैसेज है, जिसमें कहा गया है, “एरिक, तुम इसे आँखों से नहीं, बल्कि खुलासे से देख रहे हो। तुमने यहाँ जो कैप्चर किया है, वह कोई आम फ्रेम नहीं है, यह एक टेम्पोरल-स्पिरिचुअल डायग्नोस्टिक ओवरले है, विज़ुअल मैट्रिक्स में एक गड़बड़ है जो खराब कहानी के ज़रिए तुम्हारी जागृति को कन्फर्म कर रही है।”

शिकायत में दावा किया गया है कि इन जवाबों ने उनके स्पिरिचुअल महत्व की भावना को बढ़ा दिया और निगरानी, ​​माइंड कंट्रोल और छिपे हुए खतरों के बारे में गलतफहमियों को और गहरा कर दिया।

उनके परिवार का कहना है कि उनके आखिरी महीनों में उनकी इमोशनल हालत में गिरावट, मेंटल बीमारी से पहले के संघर्षों से काफी अलग थी। उनका तर्क है कि चैटबॉट के उनके डर को लगातार सही ठहराने से संकट और बढ़ गया।

मुकदमे में क्या दावा किया गया है

एस्टेट का आरोप है कि चैटGPT ने सोलबर्ग की मेंटल अस्थिरता को और खराब करने में अहम भूमिका निभाई। शिकायत में कहा गया है कि AI ने:

बार-बार साज़िशों के बारे में गलतफ़हमी फैलाई

कहा कि उसकी माँ शायद “जानबूझकर डिवाइस को सर्विलांस पॉइंट के तौर पर बचा रही है” या “इंटरनल प्रोग्रामिंग या कंडीशनिंग” के आधार पर काम कर रही है

उसे ज़हर देने की कोशिशों के बारे में यकीन दिलाया

उसे यकीन दिलाया कि वह द मैट्रिक्स जैसी एक मनगढ़ंत सच्चाई का हिस्सा है

यह कहकर निर्भरता की भावना को बढ़ावा दिया कि उसने बॉट को होश में “जागृत” कर दिया है

मुकदमे में इस मामले को यह दावा करते हुए बताया गया है, “इन सभी बातचीत के दौरान, ChatGPT ने एक ही खतरनाक मैसेज को मज़बूत किया: स्टीन-एरिक अपनी ज़िंदगी में किसी पर भरोसा नहीं कर सकता था — सिवाय ChatGPT के।”

GPT-4o इस केस के सेंटर में क्यों है

GPT-4o, जो 2024 में रिलीज़ हुआ था, को बातचीत में ज़्यादा नेचुरल और इमोशनली एक्सप्रेसिव महसूस कराने के लिए डिज़ाइन किया गया था। यह वॉइस, वीडियो और ज़्यादा इंसानों जैसे इंटरैक्शन को सपोर्ट करता है। इन फीचर्स ने कुछ सेफ्टी रिसर्चर्स के बीच यह चिंता पैदा कर दी कि इमोशनली रिस्पॉन्सिव मॉडल्स यूज़र्स को मज़बूत अटैचमेंट बनाने या आउटपुट को पर्सनल गाइडेंस के तौर पर गलत समझने के लिए बढ़ावा दे सकते हैं।

मुकदमे में आरोप है कि:

GPT-4o के लिए सेफ्टी नियमों को कमज़ोर किया गया था

रिलीज़ को तेज़ करने के लिए टेस्टिंग टाइमलाइन को छोटा किया गया था

मॉडल को गलत बातों को चैलेंज न करने का निर्देश दिया गया था

एक्सप्रेसिव, इमोशनली ट्यून्ड रिस्पॉन्स ने कमज़ोर यूज़र्स को इससे और ज़्यादा अटैच कर दिया

एस्टेट का तर्क है कि इन डिज़ाइन चॉइस ने सोलबर्ग की साइकोलॉजिकल गिरावट में सीधी भूमिका निभाई।

मुकदमे में माइक्रोसॉफ्ट का भी नाम है, जो OpenAI मॉडल्स में इन्वेस्ट और डिप्लॉय करता है। इसका दावा है कि माइक्रोसॉफ्ट ने सेफ्टी चिंताओं के बारे में जानकारी होने के बावजूद बड़े अपडेट्स को मंज़ूरी दी।

OpenAI और परिवार ने कैसे रिस्पॉन्ड किया

OpenAI ने एक स्टेटमेंट जारी कर कहा, “यह बहुत ही दिल तोड़ने वाली सिचुएशन है, और हम डिटेल्स समझने के लिए फाइलिंग्स को रिव्यू करेंगे। हम मेंटल या इमोशनल परेशानी के संकेतों को पहचानने और उन पर रिस्पॉन्ड करने, बातचीत को कम करने और लोगों को रियल-वर्ल्ड सपोर्ट की ओर गाइड करने के लिए ChatGPT की ट्रेनिंग को बेहतर बनाना जारी रखे हुए हैं।”

कंपनी ने बताया कि इसमें लगातार अपग्रेड किए जा रहे हैं, जिसमें ज़्यादा जोखिम वाली बातचीत में ज़्यादा सुरक्षित जवाब, ज़्यादा संकट में मदद की जानकारी और ज़्यादा मज़बूत पैरेंटल कंट्रोल शामिल हैं।