क्या हम आर्टिफिशियल इंटेलिजेंस को नियंत्रित कर सकते हैं? अप्रत्याशित भविष्य पर विशेषज्ञ ने जताई चिंता

एआई की तीव्र प्रगति के साथ-साथ संबंधित जोखिमों में भी समानांतर वृद्धि हुई है।

प्रसिद्ध एआई सुरक्षा विशेषज्ञ डॉ. रोमन वी यमपोलस्की अपनी आगामी पुस्तक, "एआई: अनएक्सप्लेनेबल, अनप्रेडिक्टेबल, अनकंट्रोलेबल" में लाल झंडे उठा रहे हैं। पुस्तक कृत्रिम बुद्धिमत्ता से उत्पन्न संभावित खतरों की एक डरावनी तस्वीर पेश करती है, जिसमें तर्क दिया गया है कि वर्तमान तकनीक में इसके सुरक्षित और नैतिक उपयोग को सुनिश्चित करने के लिए सुरक्षा उपायों का अभाव है।

डॉ. यमपोलस्की का व्यापक शोध, जिसका विवरण पुस्तक में दिया गया है, एक चौंकाने वाली सच्चाई को उजागर करता है: इसका कोई ठोस प्रमाण नहीं है कि हम सुपर-इंटेलिजेंट एआई को नियंत्रित कर सकते हैं, जब यह मानवीय क्षमताओं से आगे निकल जाए। जैसा कि वह कहते हैं, यह "अस्तित्व संबंधी ख़तरा" मंडरा रहा है, अगर इसे अनियंत्रित छोड़ दिया गया तो विनाशकारी परिणाम होने की संभावना है।

यह पुस्तक एआई की स्वायत्तता और अप्रत्याशितता से उत्पन्न अंतर्निहित चुनौतियों पर प्रकाश डालती है। ये विशेषताएं, अपार संभावनाएं प्रदान करते हुए, यह सुनिश्चित करना भी कठिन बनाती हैं कि एआई मानवीय मूल्यों के साथ संरेखित हो और हमारे नियंत्रण में रहे।

डॉ. यमपोलस्की का संदेश स्पष्ट और जरूरी है: हमें मजबूत एआई सुरक्षा उपायों को विकसित करने की दिशा में बड़े पैमाने पर ध्यान केंद्रित करने की आवश्यकता है। वह एक संतुलित दृष्टिकोण की वकालत करते हैं जो एआई सिस्टम को अनियंत्रित स्वायत्तता के साथ संचालित करने की अनुमति देने से पहले मानव नियंत्रण और समझ को प्राथमिकता देता है।

डॉ. यमपोलस्की ने एक बयान में कहा, "हम एक लगभग गारंटीशुदा घटना का सामना कर रहे हैं, जो अस्तित्व में तबाही मचाने की क्षमता रखती है।" “कोई आश्चर्य नहीं कि कई लोग इसे मानवता के सामने आई अब तक की सबसे महत्वपूर्ण समस्या मानते हैं।

"परिणाम समृद्धि या विलुप्ति हो सकता है, और ब्रह्मांड का भाग्य अधर में लटक गया है।"

"इतने सारे शोधकर्ता यह क्यों मानते हैं कि एआई नियंत्रण समस्या हल करने योग्य है?" उसने कहा। 'हमारी सर्वोत्तम जानकारी के अनुसार, इसका कोई सबूत नहीं है, कोई सबूत नहीं है। नियंत्रित एआई बनाने की खोज शुरू करने से पहले, यह दिखाना महत्वपूर्ण है कि समस्या हल करने योग्य है।

"यह उन आँकड़ों के साथ संयुक्त है जो दिखाते हैं कि एआई सुपरइंटेलिजेंस का विकास लगभग एक गारंटीकृत घटना है, यह दर्शाता है कि हमें एक महत्वपूर्ण एआई सुरक्षा प्रयास का समर्थन करना चाहिए।"