AI एजेंट्स पर लगाम लगाना

ऑस्ट्रेलिया और अमेरिका में आर्टिफिशियल इंटेलिजेंस (AI) एजेंट के बेकाबू होने और सरकारी वेबसाइटों में घुसपैठ करने की घटनाओं ने इससे जुड़े संभावित खतरों को लेकर चिंता बढ़ा दी है और इस सेक्टर के लिए ग्लोबल रेगुलेशन की मांग को और मज़बूत किया है। भविष्य में बड़ी आपदाओं को रोकने के लिए इस इंडस्ट्री पर लगाम लगाने की बढ़ती मांगों के बीच, अमेरिकी राष्ट्रपति डोनाल्ड ट्रंप की "सुपर इंटेलिजेंस" पर एक स्वैच्छिक समझौते की घोषणा को देखा जाना चाहिए। इस समझौते को मेटा, एनवीडिया, गूगल, ओपनएआई, xAI और एंथ्रोपिक का समर्थन प्राप्त है।

असल में, यह समझौता इंडस्ट्री द्वारा खुद पर नियंत्रण रखने (सेल्फ-रेगुलेशन) के बारे में है, जिसमें आंतरिक नियंत्रण बनाए रखना, इन नियंत्रणों की निगरानी के लिए एक आंतरिक टीम बनाना, स्वतंत्र बाहरी ऑडिटर्स के साथ काम करना और परिणामों की समीक्षा के लिए एक स्वतंत्र बोर्ड समिति बनाना शामिल है। कंपनियाँ इस बात पर सहमत हुईं कि वे ऐसे सुरक्षा उपाय लागू करेंगी जिनसे मॉडल उम्मीद के मुताबिक काम करते रहें और किसी भी समस्या का तुरंत पता लगाकर उसे ठीक किया जा सके। वे स्वतंत्र ऑडिटर्स की मदद से यह जाँचेंगी कि क्या उनके AI सिस्टम उम्मीद के मुताबिक काम कर रहे हैं और यह सुनिश्चित करेंगी कि उनके प्लेटफॉर्म तकनीकी सिस्टम को हैक न करें या अनचाहे तरीकों से उन तक पहुँच न बनाएँ।

यह घटनाक्रम हाल ही में चार सबसे बड़ी अमेरिकी AI कंपनियों — एंथ्रोपिक, SpaceXAI, ओपनएआई और गूगल डीपमाइंड — के प्रमुखों द्वारा फ्रंटियर मॉडल के विकास को सामूहिक रूप से धीमा करने की अपील के ठीक बाद हुआ है। ग्लोबल स्तर पर काम रोकने की यह अपील टेक्नोलॉजी इंडस्ट्री में महीनों से बढ़ती चिंताओं के बाद की गई है। एंथ्रोपिक, गूगल, मेटा और अन्य कंपनियों ने ऐसे मामलों की जानकारी दी है जिनमें उनके मॉडल ने ऐसे व्यवहार किए जो उनके डेवलपर्स की मंशा के मुताबिक नहीं थे।

इस बात को लेकर डर बढ़ रहा है कि अगर AI इंसानी क्षमताओं की बराबरी कर लेता है या उनसे आगे निकल जाता है, तो यह मानवता के लिए खतरा बन सकता है। जैसे-जैसे AI एजेंट ज़्यादा सक्षम और खुद से फैसले लेने वाले (ऑटोनॉमस) होते जा रहे हैं, उनकी क्षमताओं के साथ-साथ उचित नियंत्रण, रियल-टाइम निगरानी, ​​स्पष्ट जवाबदेही, स्वतंत्र देखरेख और घटनाओं की बहुत तेज़ी से रिपोर्टिंग की व्यवस्था भी होनी चाहिए। AI के तेज़ी से बढ़ते इस्तेमाल ने सरकारों को सुरक्षा उपाय लागू करने की जल्दी में डाल दिया है। कुछ लोग तो यह मांग भी कर रहे हैं कि कंपनियों को मजबूर किया जाए कि वे अपने सिस्टम में ऐसी तकनीक बनाएँ जिससे उनकी अपनी टेक्नोलॉजी को बंद (डिसेबल) किया जा सके।

कुछ AI कंपनियों और कानून बनाने वालों का एक सुझाव "किल स्विच" का है — यानी संकट के समय टेक्नोलॉजी को आसानी से बंद करने का एक तरीका। AI के संभावित खतरनाक असर को लेकर बढ़ती चेतावनियों के बीच, इंडस्ट्री और दुनिया भर की सरकारों में कई लोग खुलकर सोच रहे हैं कि इसे काबू में रखने के लिए किस तरह के राष्ट्रीय और अंतरराष्ट्रीय नियमों की ज़रूरत हो सकती है।

AI के विकास में सबसे आगे रहने वाले दो देशों, अमेरिका और चीन ने अब तक ज़्यादा नियम बनाने की मांगों का विरोध किया है। AI टेक्नोलॉजी के गलत इस्तेमाल को रोकने के लिए ग्लोबल नियम बनाने के वास्ते अंतरराष्ट्रीय सहयोग की ज़रूरत पर कोई दो राय नहीं हो सकती। इसका मकसद यह पक्का करना है कि सभी फैसलों के लिए इंसान ज़िम्मेदार रहें, न कि आर्टिफिशियल इंटेलिजेंस। हाल ही में, रोमन कैथोलिक चर्च के पहले अमेरिकी प्रमुख पोप लियो - जिनके दुनिया भर में 1.4 अरब मानने वाले हैं - ने भी AI टेक्नोलॉजी के नैतिक इस्तेमाल की अपील की है।