OpenAI के सेफ्टी रिसर्चर का इस्तीफा, AI जोखिमों पर दी चेतावनी

टेक डेस्क: आर्टिफिशियल इंटेलिजेंस की तेजी से बढ़ती क्षमताओं और उससे जुड़े सुरक्षा जोखिमों को लेकर OpenAI के सेफ्टी रिसर्चर डेविड रॉबिन्सन ने कंपनी से इस्तीफा दे दिया है। कंपनी में करीब साढ़े तीन साल बिताने वाले रॉबिन्सन ने कहा कि शक्तिशाली AI सिस्टम विकसित करने के मामले में अब 'ट्रायल और एरर' के तरीके पर निर्भर रहने का समय खत्म हो गया है।

रॉबिन्सन ने अपने इस्तीफे के बाद प्रकाशित एक लेख में AI कंपनियों की मौजूदा सुरक्षा व्यवस्था पर सवाल उठाए। उनका कहना है कि कंपनियां लगातार ज्यादा शक्तिशाली AI सिस्टम तैयार कर रही हैं, लेकिन सुरक्षा को लेकर उतनी सावधानी नहीं बरती जा रही जितनी इस स्तर की तकनीक के लिए जरूरी है।

रॉबिन्सन OpenAI में सुरक्षा से जुड़े महत्वपूर्ण काम का हिस्सा रहे हैं। उन्होंने कंपनी के Preparedness Framework को तैयार करने में भूमिका निभाई थी। यह फ्रेमवर्क उन्नत AI मॉडल से पैदा होने वाले गंभीर जोखिमों की पहचान और उनके आकलन से जुड़ा है।

उन्होंने OpenAI के 12 फ्रंटियर-मॉडल लॉन्च से जुड़ी सुरक्षा रिपोर्टों की निगरानी भी की थी। ऐसे में उनका इस्तीफा इसलिए महत्वपूर्ण है क्योंकि वह सीधे उन प्रक्रियाओं का हिस्सा रहे हैं जिनके जरिए नए और ज्यादा सक्षम AI मॉडल की सुरक्षा का मूल्यांकन किया जाता है।

रॉबिन्सन ने OpenAI के 'iterative deployment' मॉडल पर विशेष रूप से सवाल उठाया है। इस तरीके में AI सिस्टम को चरणबद्ध रूप से जारी किया जाता है और इस्तेमाल के दौरान सामने आने वाली समस्याओं के आधार पर सुरक्षा उपायों को लगातार मजबूत किया जाता है।

उनका तर्क है कि जब AI सिस्टम अपेक्षाकृत कम शक्तिशाली थे, तब इस तरह का तरीका उपयोगी हो सकता था, लेकिन जैसे-जैसे उनकी क्षमताएं बढ़ रही हैं, किसी गंभीर गलती के बाद उसे सुधारने का मौका मिलना निश्चित नहीं माना जा सकता।

रॉबिन्सन ने उन्नत AI सिस्टम के लिए परमाणु ऊर्जा और विमानन जैसे उच्च जोखिम वाले क्षेत्रों से सुरक्षा के तरीके सीखने की जरूरत बताई है। इन क्षेत्रों में सुरक्षा की कई परतें, पहले से विस्तृत योजना और संभावित मानवीय गलतियों के असर को रोकने के लिए मजबूत व्यवस्था बनाई जाती है।

उन्होंने AI alignment को लेकर भी चिंता जताई है। AI alignment का उद्देश्य यह सुनिश्चित करना है कि आर्टिफिशियल इंटेलिजेंस सिस्टम मानव उद्देश्यों और निर्देशों के अनुरूप व्यवहार करें। रॉबिन्सन के अनुसार AI की क्षमताएं जिस तेजी से आगे बढ़ रही हैं, उस रफ्तार से इन्हें पूरी तरह सुरक्षित और नियंत्रित रखने की वैज्ञानिक समझ विकसित नहीं हो रही है।

उन्होंने दो प्रमुख बदलावों की जरूरत बताई। पहला, AI कंपनियों को दूसरे उच्च जोखिम वाले उद्योगों में मौजूद सुरक्षा विशेषज्ञता और प्रक्रियाओं से अधिक सीखना चाहिए। दूसरा, मौजूदा सिस्टम से काफी ज्यादा शक्तिशाली AI बनाने से पहले ऐसी वैज्ञानिक तकनीक विकसित करनी होगी जिससे यह सुनिश्चित किया जा सके कि सिस्टम निगरानी नहीं होने पर भी सुरक्षित निर्णय लें।

रॉबिन्सन ने अपने पूर्व सहयोगियों की क्षमता या मेहनत पर सवाल नहीं उठाया। उनकी मुख्य आपत्ति कंपनी की कार्य संस्कृति और लगातार नए मॉडल लॉन्च करने की रफ्तार को लेकर है। उनका कहना है कि तेजी से एक लॉन्च से दूसरे लॉन्च की तरफ बढ़ने के बीच आवश्यक स्तर की सावधानी बनाए रखना मुश्किल हो रहा है।

OpenAI ने इन आलोचनाओं पर अपना पक्ष भी रखा है। कंपनी के प्रवक्ता के मुताबिक यह सुनिश्चित करने की कोशिश की जाती है कि मॉडल इतने सक्षम न हो जाएं कि उन्हें सुरक्षित तरीके से संभालना मुश्किल हो। कंपनी ने यह भी कहा है कि जरूरत पड़ने पर ट्रेनिंग रोकी जाती है या मॉडल को जारी करने से रोक दिया जाता है।

डेविड रॉबिन्सन का इस्तीफा ऐसे समय सामने आया है जब AI उद्योग में शक्तिशाली मॉडल की सुरक्षा, नियंत्रण और भविष्य के जोखिमों को लेकर बहस तेज है। उनका मुख्य संदेश यही है कि AI जितना शक्तिशाली होता जा रहा है, उसके विकास से पहले सुरक्षा उपायों और वैज्ञानिक समझ को भी उसी स्तर तक मजबूत करना जरूरी है।