न्यूयॉर्क New York: ओपनएआई में ज़िको कोल्टर चार लोगों के एक पैनल का नेतृत्व करते हैं, जिसके पास चैटजीपीटी निर्माता द्वारा नए एआई सिस्टम जारी करने पर रोक लगाने का अधिकार है, अगर उन्हें असुरक्षित लगता है। यह इतनी शक्तिशाली तकनीक हो सकती है कि कोई दुष्ट व्यक्ति इसका इस्तेमाल सामूहिक विनाश के हथियार बनाने के लिए कर सकता है। यह एक नया चैटबॉट भी हो सकता है जिसे इतने खराब तरीके से डिज़ाइन किया गया हो कि यह लोगों के मानसिक स्वास्थ्य को नुकसान पहुँचाए। कोल्टर ने एक साक्षात्कार में कहा, "हम यहाँ केवल अस्तित्व संबंधी चिंताओं के बारे में बात नहीं कर रहे हैं। हम सुरक्षा और सुरक्षा से जुड़े उन सभी महत्वपूर्ण मुद्दों और मुद्दों के बारे में बात कर रहे हैं जो इन व्यापक रूप से इस्तेमाल किए जाने वाले एआई सिस्टम के बारे में बात करते समय सामने आते हैं।" ओपनएआई ने एक साल से भी ज़्यादा समय पहले कंप्यूटर वैज्ञानिक को अपनी सुरक्षा समिति का अध्यक्ष नियुक्त किया था, लेकिन पिछले हफ़्ते इस पद का महत्व और बढ़ गया जब कैलिफ़ोर्निया और डेलावेयर के नियामकों ने कोल्टर की निगरानी को अपने समझौतों का एक अहम हिस्सा बना दिया ताकि
ओपनएआई को आसानी से पूँजी जुटाने और मुनाफ़ा कमाने के लिए एक नया व्यावसायिक ढाँचा बनाने की अनुमति मिल सके। एक दशक पहले एक गैर-लाभकारी अनुसंधान प्रयोगशाला के रूप में स्थापित होने के बाद से ही ओपनएआई का मिशन सुरक्षा के प्रति केंद्रीय रहा है, जिसका लक्ष्य मानवता के लिए बेहतर मानव-से-बेहतर एआई का निर्माण करना था। लेकिन इसके रिलीज़ होने के बाद
चैटजीपीटी ने वैश्विक एआई व्यावसायिक उछाल को जन्म दिया, कंपनी पर दौड़ में सबसे आगे रहने के लिए उत्पादों को पूरी तरह सुरक्षित होने से पहले ही बाज़ार में लाने का आरोप लगाया गया है। आंतरिक विभाजन, जिसके कारण 2023 में सीईओ सैम ऑल्टमैन को अस्थायी रूप से हटा दिया गया, ने इस चिंता को व्यापक दर्शकों तक पहुँचाया कि यह अपने मिशन से भटक गया है। सैन फ़्रांसिस्को स्थित इस संगठन को तब विरोध का सामना करना पड़ा – जिसमें सह-संस्थापक एलन मस्क का मुक़दमा भी शामिल था – जब इसने अपनी तकनीक को आगे बढ़ाने के लिए खुद को एक पारंपरिक लाभकारी कंपनी में बदलने की दिशा में कदम बढ़ाना शुरू किया।
कोल्टर गैर-लाभकारी संस्था के बोर्ड के सदस्य होंगे, लेकिन लाभकारी बोर्ड में नहीं। लेकिन उनके पास सभी लाभकारी बोर्ड बैठकों में भाग लेने और एआई सुरक्षा निर्णयों से संबंधित जानकारी तक पहुँच के "पूर्ण अवलोकन अधिकार" होंगे।