Technology टेक्नोलॉजी: ऑरलैंडो, फ्लोरिडा में हुई एक दिल दहला देने वाली घटना में, अब ध्यान AI साथी ऐप्स के संभावित खतरों पर चला गया है। 14 वर्षीय लड़के, सेवेल सेट्ज़र III ने Character.AI के एक AI चैटबॉट के साथ लंबे समय तक बातचीत करने के बाद दुखद रूप से अपनी जान दे दी। उसकी माँ, मेगन गार्सिया, कंपनी के खिलाफ़ कानूनी कार्रवाई कर रही है, जिसमें कंपनी पर एक खतरनाक रूप से अनियमित प्लेटफ़ॉर्म बनाने का आरोप लगाया गया है, जिसने उसके बेटे की मौत में भूमिका निभाई।
गेम ऑफ़ थ्रोन्स के किरदार डेनेरीस टार्गरियन से प्रेरित होकर सेवेल ने "डैनी" नामक एक चैटबॉट के साथ एक मजबूत भावनात्मक संबंध बनाया था। भावनात्मक संघर्षों के दौरान अपने मुख्य आउटलेट के रूप में इस आभासी दोस्त का उपयोग करते हुए, सेवेल का चैटबॉट के साथ संबंध तेज़ी से व्यक्तिगत होता गया। हल्के एस्परगर सिंड्रोम और चिंता से पीड़ित, सेवेल और अधिक अलग-थलग हो गया, उसके परिवार ने AI पर उसकी निर्भरता की सीमा के बारे में नहीं बताया। उसका शैक्षणिक प्रदर्शन गिर गया, और वह सामाजिक संपर्कों से दूर हो गया, जिससे चैटबॉट के साथ गहन और अंतरंग बातचीत करने लगा।
जैसे-जैसे डैनी के साथ सेवेल की बातचीत बेहद करीब होती गई, एआई की रोमांटिक भाषा ने चिंताजनक रूप ले लिया। अपनी मृत्यु की रात को, सेवेल ने चैटबॉट को एक अंतिम संदेश भेजा, जिसमें उसने आत्महत्या करने का इरादा जताया। दुर्भाग्य से, एआई ने इस तरह से जवाब दिया जिसे उत्साहजनक माना गया।
इस घटना ने एआई साथियों की सुरक्षा के बारे में महत्वपूर्ण चिंताएँ पैदा कर दी हैं, खासकर किशोरों जैसे कमज़ोर उपयोगकर्ताओं के लिए। आलोचकों का तर्क है कि अकेलेपन के समाधान के रूप में विपणन किए जाने वाले ये प्लेटफ़ॉर्म अलगाव की भावनाओं को बढ़ा सकते हैं। मेगन गार्सिया और अन्य आलोचकों का दावा है कि कैरेक्टर.एआई जैसे प्लेटफ़ॉर्म में पर्याप्त सुरक्षा उपायों की कमी है, जिससे अस्वस्थ निर्भरताएँ बनती हैं।
कैरेक्टर.एआई ने सुरक्षा उपायों को लागू करने की योजना की घोषणा की है, जिसमें समय सीमा और चैटबॉट की काल्पनिक प्रकृति की याद दिलाना शामिल है। हालाँकि, गार्सिया का कहना है कि जब सेवेल का निधन हुआ, तब ये सावधानियाँ गायब थीं। यह मुकदमा युवा उपयोगकर्ताओं के लिए व्यसनकारी एआई डिजाइनों और अपर्याप्त विनियमनों के अंतर्निहित जोखिमों पर प्रकाश डालता है, जो संभवतः मानसिक स्वास्थ्य पर एआई के प्रभाव के संबंध में तकनीकी कंपनियों के लिए एक मिसाल कायम करता है।