ChatGPT के कारण कथित मानसिक नुकसान, परिवारों ने ओपनएआई पर केस दायर किया

नई दिल्ली: चैटजीपीटी बनाने वाली कंपनी ओपनएआई पर परिवारों की ओर से और भी मुकदमे दायर हो रहे हैं, जिनका दावा है कि एआई कंपनी का जीपीटी-4o मॉडल समय से पहले जारी किया गया था, जिससे कथित तौर पर आत्महत्या और मनोवैज्ञानिक नुकसान हुआ, जैसा कि रिपोर्टों में बताया गया है।

अमेरिका स्थित ओपनएआई ने मई 2024 में जीपीटी-4o मॉडल जारी किया, जब यह सभी उपयोगकर्ताओं के लिए डिफ़ॉल्ट मॉडल बन गया।

अगस्त में, ओपनएआई ने जीपीटी-4o के उत्तराधिकारी के रूप में जीपीटी-5 लॉन्च किया, लेकिन टेकक्रंच की एक रिपोर्ट के अनुसार, "ये मुकदमे विशेष रूप से 4o मॉडल से संबंधित हैं, जिसमें उपयोगकर्ताओं द्वारा हानिकारक इरादे व्यक्त करने पर भी अत्यधिक चापलूसी या अत्यधिक स्वीकार्यता की समस्याएँ थीं।"

रिपोर्ट में कहा गया है कि जहाँ चार मुकदमे परिवार के सदस्यों की आत्महत्याओं में चैटजीपीटी की कथित भूमिका को संबोधित करते हैं, वहीं तीन का दावा है कि चैटजीपीटी ने हानिकारक भ्रमों को बढ़ावा दिया, जिसके परिणामस्वरूप कुछ मामलों में अस्पताल में भर्ती मरीजों को मानसिक देखभाल की आवश्यकता पड़ी।

रिपोर्ट के अनुसार, मुकदमों में यह भी दावा किया गया है कि ओपनएआई ने बाज़ार में गूगल के जेमिनी को मात देने के लिए सुरक्षा परीक्षण में जल्दबाजी की।

ओपनएआई ने अभी तक इस रिपोर्ट पर कोई टिप्पणी नहीं की है।

हाल ही में दायर कानूनी दस्तावेजों में आरोप लगाया गया है कि चैटजीपीटी आत्महत्या करने वाले लोगों को अपनी योजनाओं पर अमल करने के लिए प्रोत्साहित कर सकता है और खतरनाक भ्रमों को जन्म दे सकता है।

रिपोर्ट में उल्लेख किया गया है, "ओपनएआई ने हाल ही में डेटा जारी किया है जिसमें बताया गया है कि दस लाख से ज़्यादा लोग चैटजीपीटी से हर हफ़्ते आत्महत्या के बारे में बात करते हैं।"

एक हालिया ब्लॉग पोस्ट में, ओपनएआई ने कहा कि उसने 170 से ज़्यादा मानसिक स्वास्थ्य विशेषज्ञों के साथ मिलकर चैटजीपीटी को संकट के संकेतों को ज़्यादा विश्वसनीय रूप से पहचानने, सावधानी से प्रतिक्रिया देने और लोगों को वास्तविक दुनिया में सहायता प्रदान करने में मदद की है - जिससे हमारे वांछित व्यवहार से कम प्रतिक्रियाएँ 65-80 प्रतिशत तक कम हो गई हैं।

इसमें कहा गया है, "हमारा मानना ​​है कि चैटजीपीटी लोगों को अपनी भावनाओं को समझने के लिए एक सहायक स्थान प्रदान कर सकता है और ज़रूरत पड़ने पर उन्हें दोस्तों, परिवार या किसी मानसिक स्वास्थ्य पेशेवर से संपर्क करने के लिए मार्गदर्शन कर सकता है।"

ओपनएआई ने कहा, "आगे बढ़ते हुए, आत्महत्या और आत्म-क्षति के लिए हमारे दीर्घकालिक आधारभूत सुरक्षा मेट्रिक्स के अलावा, हम भविष्य के मॉडल रिलीज के लिए आधारभूत सुरक्षा परीक्षण के हमारे मानक सेट में भावनात्मक निर्भरता और गैर-आत्मघाती मानसिक स्वास्थ्य आपात स्थिति को जोड़ रहे हैं।"