AI उपयोगकर्ता को OpenAI, बोर्ड को जोखिम भरे AI पर वीटो का अधिकार देगा

सैन फ्रांसिस्को (आईएनएस): सैम ऑल्टमैन द्वारा संचालित ओपनएआई ने बढ़ती सरकारी जांच के बीच हानिकारक एआई के खतरे से निपटने के लिए अपनी आंतरिक सुरक्षा प्रक्रियाओं का विस्तार किया है। कंपनी ने कहा कि वह सुरक्षा निर्णय लेने के लिए तकनीकी कार्य और परिचालन संरचना की देखरेख के लिए एक समर्पित टीम स्थापित करेगी। “हम सभी रिपोर्टों की समीक्षा करने और उन्हें नेतृत्व और निदेशक मंडल को समवर्ती रूप से भेजने के लिए एक क्रॉस-फ़ंक्शनल सुरक्षा सलाहकार समूह बना रहे हैं। जबकि नेतृत्व निर्णय-निर्माता है, निदेशक मंडल निर्णयों को उलटने का अधिकार रखता है, ”सोमवार देर रात यह कहा गया।

ओपनएआई ने अपने अद्यतन "तैयारी ढांचे" पर चर्चा करते हुए कहा कि यह उभरते जोखिमों का बेहतर पता लगाने के लिए कठोर क्षमता मूल्यांकन और पूर्वानुमान के डिजाइन और निष्पादन में निवेश करेगा। “हम मूल्यांकन चलाएंगे और अपने मॉडलों के लिए लगातार 'स्कोरकार्ड' अपडेट करेंगे। हम अपने सभी सीमांत मॉडलों का मूल्यांकन करेंगे, जिसमें प्रशिक्षण रन के दौरान प्रत्येक 2x प्रभावी गणना वृद्धि भी शामिल है। हम मॉडलों को उनकी सीमा तक आगे बढ़ाएंगे," चैटजीपीटी निर्माता ने कहा।

लक्ष्य प्रकट जोखिमों को प्रभावी ढंग से कम करने के लिए असुरक्षित चीज़ों के विशिष्ट किनारों की जांच करना है। हमारे मॉडलों के सुरक्षा स्तरों को ट्रैक करने के लिए, ओपनएआई जोखिम "स्कोरकार्ड" और विस्तृत रिपोर्ट तैयार करेगा। कंपनी ने कहा, "हम जोखिम के उच्च या गंभीर (पूर्व-शमन) स्तर वाले मॉडलों के अनुरूप अतिरिक्त सुरक्षा उपाय भी लागू करेंगे।" ओपनएआई ने कहा कि वह अतिरिक्त सुरक्षा और बाहरी जवाबदेही के लिए प्रोटोकॉल विकसित करेगा। इसमें कहा गया है, "तैयारी टीम हमारे व्यवसाय और हमारी अपनी संस्कृति के दबाव के खिलाफ तनाव-परीक्षण के लिए नियमित सुरक्षा अभ्यास करेगी।" कंपनी वास्तविक दुनिया में दुरुपयोग पर नज़र रखने के लिए बाहरी पक्षों के साथ-साथ सेफ्टी सिस्टम जैसी आंतरिक टीमों के साथ भी मिलकर सहयोग करेगी।