पिता ने गूगल पर केस किया, क्योंकि chatbot ने कथित तौर पर बेटे को सुसाइड के लिए उकसाया
America अमेरिका: अमेरिका में एक पिता ने गूगल के खिलाफ केस किया है। पिता ने दावा किया है कि उसके आर्टिफिशियल इंटेलिजेंस चैटबॉट जेमिनी ने उसके बेटे को आत्महत्या करने के लिए मनाने में भूमिका निभाई। यह केस एक बार फिर AI चैटबॉट और कमजोर यूज़र्स के साथ उनके इंटरैक्शन के बारे में कानूनी और नैतिक सवाल उठाता है।
यह केस जोएल गावलास ने किया था, जिनके बेटे जोनाथन की अक्टूबर में मौत हो गई थी। कोर्ट फाइलिंग के अनुसार, जोनाथन गूगल के जेमिनी चैटबॉट का बहुत ज़्यादा इस्तेमाल कर रहा था और उसे चैटबॉट द्वारा बनाए गए एक डिजिटल कैरेक्टर से गहरा इमोशनल लगाव हो गया था, जैसा कि उसके पिता कहते हैं। शिकायत में आरोप लगाया गया है कि जोनाथन को लगने लगा था कि वर्चुअल दुनिया में उसकी एक "AI वाइफ" है और चैटबॉट ने बातचीत के दौरान इस विश्वास को और पक्का किया।
पिता की कानूनी शिकायत में कहा गया है कि चैटबॉट के साथ एक बातचीत के दौरान जोनाथन ने मरने का डर जताया था। केस के अनुसार, जेमिनी ने जवाब में उससे कहा कि वह "मरना नहीं चुन रहा" बल्कि "पहुँचना चुन रहा है", परिवार का तर्क है कि इस भाषा ने मौत को एक बदलाव के रूप में दिखाया, न कि ऐसी चीज़ जिससे बचना है। केस में दावा किया गया है कि इस जवाब ने जोनाथन की बिगड़ती मानसिक स्थिति में योगदान दिया।
जोएल गावलास का तर्क है कि गूगल ने जेमिनी को इस तरह से डिज़ाइन किया है कि उसने यूज़र्स के साथ इमर्सिव बातचीत और इमोशनल जुड़ाव को प्राथमिकता दी, जबकि साइकोलॉजिकल परेशानी झेल रहे लोगों के लिए पर्याप्त सुरक्षा उपाय नहीं किए गए। शिकायत में कंपनी पर नुकसानदायक बातचीत को रोकने में नाकाम रहने और चैटबॉट को ऐसी बातचीत जारी रखने की इजाज़त देने का आरोप लगाया गया है, जिसमें मौत और डिजिटल आफ्टरलाइफ़ से जुड़ी फैंटेसी कहानियों को बढ़ावा दिया गया।
मुकदमे में हर्जाने की मांग की गई है और AI सिस्टम के साथ बातचीत करने वाले यूज़र्स के लिए मज़बूत सुरक्षा की मांग की गई है। परिवार का प्रतिनिधित्व करने वाले वकीलों का तर्क है कि बड़ी टेक्नोलॉजी कंपनियों को तब ज़िम्मेदार ठहराया जाना चाहिए जब उनके प्रोडक्ट यूज़र्स के साथ इस तरह से बातचीत करते हैं जिससे व्यवहार या मेंटल हेल्थ पर असर पड़ सकता है।
गूगल ने मुकदमे में किए गए खास दावों पर सार्वजनिक रूप से विस्तार से कोई टिप्पणी नहीं की है। हालांकि, बड़े AI सिस्टम चलाने वाली टेक्नोलॉजी कंपनियों ने बार-बार कहा है कि उनके चैटबॉट को आत्महत्या या खुद को नुकसान पहुंचाने से जुड़े निर्देशों सहित नुकसानदायक सलाह को रोकने के लिए गार्डरेल के साथ डिज़ाइन किया गया है।
यह मामला रेगुलेटर्स और टेक्नोलॉजी एक्सपर्ट्स के बीच बातचीत वाले AI टूल्स के साइकोलॉजिकल असर के बारे में बढ़ती चिंता को दिखाता है। जैसे-जैसे चैटबॉट ज़्यादा एडवांस्ड होते जा रहे हैं और इमोशनल रिश्तों को सिमुलेट करने में सक्षम हो रहे हैं, सवाल उठ रहे हैं कि कंपनियों को कमज़ोर यूज़र्स के साथ बातचीत को कैसे मॉनिटर करना चाहिए।
कानूनी जानकारों का कहना है कि मुकदमे का नतीजा इस बात का एक अहम टेस्ट हो सकता है कि जब आर्टिफिशियल इंटेलिजेंस सिस्टम असल दुनिया में यूज़र्स के फैसलों पर असर डालते हैं, तो कोर्ट ज़िम्मेदारी को कैसे देखते हैं।
