एआई क्रांति का नया चरण एजेंट्स के युग में भारत की तैयारी पर सवाल

भारत में आर्टिफिशियल इंटेलिजेंस (AI) को लेकर बातचीत ज़्यादातर कंप्यूटिंग पावर, डेटा सेंटर, भारतीय भाषाओं के मॉडल, स्टार्ट-अप और AI सुपरपावर बनने की महत्वाकांक्षा के बारे में रही है। अब यह सब बदल रहा है, क्योंकि अस्तित्व के लिए खतरे (existential risk) के बारे में एक मुश्किल बातचीत शुरू हो गई है।

वित्त मंत्री निर्मला सीतारमण ने हाल ही में AI को दोधारी तलवार कहा और चेतावनी दी कि एडवांस्ड सिस्टम का इस्तेमाल साइबर हमलों, धोखाधड़ी, जनमत में हेरफेर और चुनावों में दखल के लिए किया जा सकता है। उनकी यह टिप्पणी ऐसे समय में आई है जब "फ्रंटियर" AI सिस्टम बनाने वाली कंपनियों - जैसे OpenAI, Anthropic और अन्य - के अंदर सुरक्षा को लेकर चिंताएं जताई जा रही थीं।

फ्रंटियर लैब के लीडर्स ने इस दौड़ की गति और दिशा पर सवाल उठाए हैं। हाल ही में एक लेख में, Anthropic के चीफ एग्जीक्यूटिव डारियो अमोदेई ने लिखा: "हमें AI मॉडल की क्षमताओं को बेहतर बनाने की गति धीमी करनी होगी। प्रगति फिर भी तेज़ दिखेगी, और हमें मिले समय का समझदारी से इस्तेमाल करना होगा।" OpenAI के चीफ एग्जीक्यूटिव सैम ऑल्टमैन ने भी ज़्यादा सक्षम सिस्टम से जुड़े जोखिमों को मैनेज करने की बात कही है।

AI पर नज़र रखने वालों के लिए यह कोई नई बात नहीं है। AI से जुड़े हालिया साइबर हमलों और AI सुरक्षा शोधकर्ताओं के इस्तीफे ने दुनिया भर में हलचल मचा दी। Anthropic के जैकब कॉक्सन ने इस्तीफा दे दिया - खबरों के मुताबिक, कंपनी के स्टॉक से फायदा उठाने से दो महीने पहले ही - यह कहते हुए कि वह ऐसी दिशा से मुनाफा नहीं कमाना चाहते जिसे वह खतरनाक मानते थे। सुरक्षा संबंधी ऐसी ही चिंताओं का हवाला देते हुए दूसरों ने भी ऐसा ही किया।

आज, अमेरिका-चीन के बीच बढ़ती AI प्रतिद्वंद्विता के बीच AI की दुनिया विनाश के डर का सामना कर रही है।

इसमें भारत कहाँ है? एक मुख्य चुनौती - AI सुरक्षा - को अक्सर ऐसे देश में एक अजीब विषय माना जाता है जो अपनी तकनीकी महत्वाकांक्षा दिखाना चाहता है। डर यह है कि बहुत ज़्यादा रेगुलेशन, बहुत ज़्यादा सुरक्षा उपाय और जोखिम पर बहुत ज़्यादा चर्चा इनोवेशन को धीमा कर सकती है और AI पावर बनने की भारत की महत्वाकांक्षा को खत्म कर सकती है।

लेकिन AI सुरक्षा कोई ऐसी विलासिता नहीं है जिसे उन देशों से आयात किया जाए जिन्होंने पहले ही फ्रंटियर मॉडल बना लिए हैं। यह बड़े पैमाने पर AI के लिए ज़रूरी इंफ्रास्ट्रक्चर का हिस्सा है।

सुरक्षा को नज़रअंदाज़ करना इनोवेशन की राह से बाधा हटाने जैसा लग सकता है। यह अपनाने (adoption) में बाधा बन सकता है। ये सिस्टम जितने ज़्यादा ऑटोनॉमस (खुद से काम करने वाले) होते जाएंगे, उनकी विफलता के नतीजे उतने ही गंभीर होंगे। AI सुरक्षा पर ज़्यादा ध्यान और निवेश की ज़रूरत है।

ज़्यादातर भारतीय अभी भी AI को चैटबॉट के तौर पर देखते हैं। आप कुछ टाइप करते हैं, और वह जवाब देता है। आप उससे कोई लेटर ड्राफ्ट करने, किसी रिपोर्ट का सारांश बनाने या कोई कोड लिखने के लिए कहते हैं। सुरक्षा को अक्सर ग्राहकों को होने वाले नुकसान—जैसे स्कैम, डीपफेक और नौकरी जाने—के नज़रिए से देखा जाता है।

हालांकि, अब दुनिया भर में चर्चा इस बात पर हो रही है कि AI एजेंट बेकाबू (rogue) हो सकते हैं। यह फ़र्क समझना ज़रूरी है।

ChatGPT जैसे चैटबॉट मुख्य रूप से प्रॉम्प्ट (निर्देशों) का जवाब देते हैं। इसके उलट, AI एजेंट किसी लक्ष्य को पाने के लिए काम कर सकते हैं, फ़ैसले ले सकते हैं, टूल का इस्तेमाल कर सकते हैं और इंसानी दखल के बिना काम कर सकते हैं। इससे साइबर सुरक्षा से जुड़े जोखिम कई गुना बढ़ सकते हैं।

मुंबई के AI और प्राइवेसी मामलों के वकील डॉ. प्रशांत माली कहते हैं कि भले ही भारत अभी 'फ्रंटियर मॉडल' (अत्याधुनिक AI मॉडल) न बना रहा हो, "लेकिन भारत निश्चित रूप से इनका शिकार बन सकता है।" माली का तर्क है कि इसलिए, डिजिटल संप्रभुता के लिए AI-सुरक्षा संप्रभुता भी ज़रूरी है। "AI रेगुलेशन (नियमन) की अगली पीढ़ी सिर्फ़ इस बात को रेगुलेट नहीं कर सकती कि AI क्या कहता है; उसे यह भी रेगुलेट करना होगा कि AI खुद से क्या कर सकता है।"

माली ने इस लेखक को बताया, "भारत ने 'इंडिया AI गवर्नेंस गाइडलाइंस' को अपनाया है, लेकिन प्रस्तावित सुरक्षा ढांचे का ज़्यादातर हिस्सा अभी सिद्धांतों पर आधारित और स्वैच्छिक है। गाइडलाइंस में ही कहा गया है कि ये स्वैच्छिक उपाय कानूनी रूप से बाध्यकारी नहीं हैं और बाद में अनिवार्य ज़रूरतों में बदल सकते हैं। वे खास तौर पर ऑटोनॉमस AI एजेंट और मल्टी-एजेंट सहयोग को ऐसी तकनीक के तौर पर पहचानते हैं जिनके लिए भारत को अपने गवर्नेंस के तरीके पर फिर से सोचने की ज़रूरत पड़ सकती है।"

भारत के मौजूदा कानून नुकसान होने के बाद कार्रवाई कर सकते हैं। लेकिन माली कहते हैं, "कानून में अभी भी इस बात पर स्पष्टता की कमी है कि डेवलपर, डिप्लॉयर (इसे लागू करने वाले), प्लेटफ़ॉर्म और यूज़र के बीच ज़िम्मेदारी कैसे तय की जाए।" "हाल ही में 29/07/2026 को सरकार ने कहा था कि उभरते जोखिमों पर सुरक्षा रिसर्च, स्टैंडर्ड तय करने, टेस्टिंग और मूल्यांकन के लिए 'इंडिया AI सेफ्टी इंस्टीट्यूट' बनाया जा रहा है। यह अभी कोई कानूनी AI रेगुलेटर नहीं है जिसके पास फ्रंटियर मॉडल को लाइसेंस देने, शटडाउन का आदेश देने या पीड़ितों को मुआवज़ा देने की शक्तियां हों। 'इंडिया AI इंस्टीट्यूट' आग का अध्ययन तो कर सकता है, लेकिन भारत को अभी भी कानूनी 'फ़ायर कोड', 'अलार्म सिस्टम' और 'इमरजेंसी ब्रेक' की ज़रूरत है।"

भारत एआई सुरक्षा संस्थान महत्वपूर्ण है। हालाँकि, संस्था-निर्माण और कानूनी संरक्षण के बीच एक अंतर है। भारत को महत्वाकांक्षा और सुरक्षा के बीच चयन करने की ज़रूरत नहीं है, न ही केवल अमेरिका या यूरोप के उन हिस्सों की ओर देखने की ज़रूरत है जो रेलिंग लगा रहे हैं।

एशिया में भी महत्वपूर्ण प्रयोग चल रहे हैं। भारत अपने एशियाई पड़ोस से क्या सीख सकता है? सिंगापुर एक उत्तर प्रस्तुत करता है। माली कहते हैं, ''सिंगापुर भारत के लिए विशेष रूप से दिलचस्प है, क्योंकि यह एजेंट को दी गई शक्ति को नियंत्रित कर रहा है, न कि केवल उसके आउटपुट को।''

एजेंट एआई के लिए सिंगापुर का 2026 मॉडल एआई गवर्नेंस फ्रेमवर्क, जो अभी तक एक बाध्यकारी कानून नहीं है, तैनाती से पहले एक एजेंट के जोखिमों का आकलन करने और उन्हें सीमित करने, इसकी स्वायत्तता और टूल और डेटा तक पहुंच को सीमित करने और उन बिंदुओं को परिभाषित करने की सिफारिश करता है जिन पर मानव अनुमोदन की आवश्यकता होती है। एक सरकारी तैनाती में, एजेंटिक कोडिंग सहायकों को पहले आंतरिक कर्मचारियों, कम जोखिम वाले सिस्टम और किसी बाहरी उपकरण तक ही सीमित रखा गया था, जबकि लॉगिंग, निगरानी और अन्य सुरक्षा उपायों का परीक्षण किया गया था।

माली कहते हैं, "ऐसा प्रतीत होता है कि चीन को यह बात समझ में आ गई है कि अन्यत्र नियामकों ने अभी इसका सामना करना शुरू ही किया है: एक एआई एजेंट को प्रतिबंधित पहुंच वाले कर्मचारी की तरह काम करना चाहिए, न कि मास्टर पासवर्ड वाले डिजिटल सीईओ की तरह।"

उन्होंने आगे कहा कि भारत को अब अनिवार्य फ्रंटियर-मॉडल मूल्यांकन- एजेंट-एआई जोखिम वर्गीकरण, मानव ओवरराइड और किल-स्विच आवश्यकताएं, अनिवार्य घटना रिपोर्टिंग, डेवलपर-नियोक्ता दायित्व नियम और उच्च जोखिम वाले स्वायत्त प्रणालियों के लिए अनिवार्य एआई बीमा पर विचार करना चाहिए। अन्यथा, स्वायत्त मशीन के पहले ही दुर्घटनाग्रस्त हो जाने के बाद दुर्घटना की जांच करने में हमारा कानून उत्कृष्ट बना रहेगा।

इस डर ने एआई सुरक्षा को ताक पर रख दिया है। एआई नवप्रवर्तन करेगा. कई भारतीय नागरिकों की तरह, मेरा सवाल यह है कि किसी इंसान के हस्तक्षेप करने से पहले एआई प्रणाली को कितना अधिकार होना चाहिए?