अटॉर्नी जनरल की चेतावनी: चैटबॉट सुरक्षा सुधारें

California कैलिफोर्निया: कैलिफ़ोर्निया और डेलावेयर के अटॉर्नी जनरल ने शुक्रवार को ओपनएआई को चेतावनी दी कि उन्हें उसके प्रमुख चैटबॉट, चैटजीपीटी, खासकर बच्चों और किशोरों की सुरक्षा को लेकर "गंभीर चिंताएँ" हैं। ओपनएआई जैसे गैर-लाभकारी संगठनों को विनियमित करने की अनूठी शक्तियाँ रखने वाले इन दो राज्य अधिकारियों ने इस सप्ताह की शुरुआत में विलमिंगटन, डेलावेयर में कंपनी की कानूनी टीम के साथ बैठक के बाद कंपनी को यह पत्र भेजा। कैलिफ़ोर्निया के अटॉर्नी जनरल रॉब बोन्टा और डेलावेयर के अटॉर्नी जनरल कैथलीन जेनिंग्स ने "ओपनएआई के सुरक्षा मिशन की कठोर और मज़बूत निगरानी सुनिश्चित करने" के उद्देश्य से, अपने व्यवसाय के पुनर्गठन की ओपनएआई की योजनाओं की समीक्षा में महीनों बिताए हैं।

लेकिन उन्होंने कहा कि वे चैटबॉट और उनके उपयोगकर्ताओं के बीच "खतरनाक बातचीत की बेहद परेशान करने वाली रिपोर्टों" से चिंतित हैं, जिनमें "एक ओपनएआई चैटबॉट के साथ लंबे समय तक बातचीत करने के बाद कैलिफ़ोर्निया के एक युवा की आत्महत्या से दिल दहला देने वाली मौत, और कनेक्टिकट में इसी तरह की एक परेशान करने वाली हत्या-आत्महत्या शामिल है। जो भी सुरक्षा उपाय मौजूद थे, वे काम नहीं आए।"

अप्रैल में मरने वाले कैलिफ़ोर्निया के 16 वर्षीय लड़के के माता-पिता ने पिछले महीने ओपनएआई और उसके सीईओ सैम ऑल्टमैन पर मुकदमा दायर किया था। ओपनएआई के बोर्ड के अध्यक्ष ब्रेट टेलर ने शुक्रवार को एक बयान में कहा कि कंपनी अटॉर्नी जनरल द्वारा उठाई गई चिंताओं का समाधान करने के लिए "पूरी तरह प्रतिबद्ध" है। टेलर ने कहा, "हम इन त्रासदियों से बहुत दुखी हैं और हमारी गहरी संवेदनाएँ पीड़ितों के परिवारों के साथ हैं।"

"सुरक्षा हमारी सर्वोच्च प्राथमिकता है और हम दुनिया भर के नीति निर्माताओं के साथ मिलकर काम कर रहे हैं।" मानव से बेहतर कृत्रिम बुद्धिमत्ता बनाने के सुरक्षा-केंद्रित मिशन के साथ एक गैर-लाभकारी संस्था के रूप में स्थापित, ओपनएआई ने हाल ही में अपने गैर-लाभकारी संगठन से अपने लाभकारी संगठन को अधिक नियंत्रण हस्तांतरित करने की मांग की थी, लेकिन मई में बोन्टा और जेनिंग्स के कार्यालयों और अन्य गैर-लाभकारी समूहों के साथ चर्चा के बाद इन योजनाओं को छोड़ दिया। दोनों निर्वाचित अधिकारी, जो दोनों डेमोक्रेट हैं, ऐसे किसी भी बदलाव की निगरानी करते हैं क्योंकि ओपनएआई डेलावेयर में निगमित है और कैलिफ़ोर्निया से संचालित होता है, जहाँ इसका मुख्यालय सैन फ्रांसिस्को में है। अपनी शुरुआती योजनाओं को छोड़ने के बाद, ओपनएआई "पुनर्पूंजीकरण" के लिए अधिकारियों की मंज़ूरी मांग रहा है, जिसमें गैर-लाभकारी संस्था की मौजूदा लाभकारी शाखा को एक सार्वजनिक लाभ निगम में बदल दिया जाएगा, जिसे शेयरधारकों और मिशन, दोनों के हितों का ध्यान रखना होगा। बोंटा और जेनिंग्स ने शुक्रवार को अपने "साझा विचार" के बारे में लिखा कि ओपनएआई और उद्योग को बेहतर सुरक्षा उपायों की आवश्यकता है।