पोप लियो की AI चेतावनी एक वेक-अप कॉल है

दुनिया के सबसे असरदार आध्यात्मिक गुरु का एल्गोरिदम के ज़माने को समझने के लिए ईंटों और घमंड के बारे में चार हज़ार साल पुरानी एक कहानी की तरफ जाना कुछ दिलचस्प है। फिर भी पोप लियो XIV की समझ सही है। 25 मई को जारी अपने एनसाइक्लिक मैग्निफ़िका ह्यूमैनिटास में, उन्होंने इंसानियत को एक अहम चुनाव के बारे में चेतावनी दी — “या तो बाबेल का एक नया टावर बनाना है या वह शहर बनाना है जिसमें भगवान और इंसानियत एक साथ रहें।” थियोलॉजी को हटा दें, तो जो बचता है वह है ज़रूरी राजनीतिक और नैतिक तर्क।

पोप की मुख्य चेतावनी यह है कि आर्टिफिशियल इंटेलिजेंस का कंट्रोल “कुछ लोगों” के हाथों में नहीं रहना चाहिए। यह कोई खास धार्मिक चिंता नहीं है; यह पहले से ही सामने आ रहे संकट का डायग्नोसिस है। अमेरिकी टेक्नोलॉजी कॉर्पोरेशन्स का एक छोटा सा ग्रुप — जिसके पास बहुत ज़्यादा कैपिटल, प्रोप्राइटरी डेटा और लॉबिंग का असर है — असल में इंसानी इतिहास की सबसे ज़्यादा बदलाव लाने वाली टेक्नोलॉजी के नियम लिख रहा है। पोप लियो ने कुछ मुट्ठी भर प्राइवेट टेक्नोलॉजी कंपनियों के पास जमा बहुत ज़्यादा ताकत की आलोचना की, और सही भी है।

जब किसी टेक्नोलॉजी के आर्किटेक्ट ही उसके रेगुलेटर भी हों, तो कुछ बहुत गलत हो गया है। बैबल का उदाहरण इसलिए सही है क्योंकि यह AI पावर के उलटफेर को दिखाता है। बाइबिल की कहानी में, बैबल इंसानी घमंड को दिखाता है — इंसानियत की अपनी ताकत से आसमान तक पहुँचने की कोशिश, जिसका नतीजा आखिर में कन्फ्यूजन और बिखराव होता है। आज का AI इकोसिस्टम इसी डायनामिक को दिखाता है: एक हावी टेक्नोलॉजिकल कल्चर, जो वैल्यूज़ में एक जैसा है और प्रॉफिट से चलता है, जो बहुत तेज़ी से ऊपर बढ़ रहा है, जबकि इंसानी कीमत को बाद की बात मानता है। पोप लियो ने चेतावनी दी कि एक अकेली, पूरी तरह से फैली हुई टेक्नोलॉजिकल कल्चर ज़ुल्म का एक नया रूप बनने का खतरा है।

अमेरिका के लिए, यह एनसाइक्लिकल एक अजीब समय पर आया है। पिछले हफ़्ते, प्रेसिडेंट डोनाल्ड ट्रंप ने एक एग्जीक्यूटिव ऑर्डर में देरी की, जिससे AI मॉडल्स की टेस्टिंग के लिए एक वॉलंटरी प्रोसेस बनता — यहाँ तक कि ओवरसाइट के लिए हल्के से इशारे से भी पीछे हट गए। वाशिंगटन जियोपॉलिटिकल कॉम्पिटिशन में फंसा हुआ है: चीन से ज़्यादा तेज़ी से AI को डिप्लॉय करो, इसे जल्दी हथियार बनाओ, इसे बाद में रेगुलेट करो — अगर बिल्कुल भी करो। पोप लियो का इंसानी इज्ज़त पर ज़ोर और ऑटोनॉमस हथियारों का उनका विरोध उन्हें उन टेक्नो-ऑप्टिमिस्ट्स के बिल्कुल उलट खड़ा करता है जो तर्क देते हैं कि अमेरिका को अपने कॉम्पिटिटर्स से पहले AI की तरक्की को मिलिट्री बनाना चाहिए। पोप टेक्नोलॉजिकल तरक्की का विरोध नहीं करते। बल्कि, उनका तर्क है कि समझदारी की मांग करना — भले ही AI को अपनाने में धीमी रफ़्तार हो — तरक्की का विरोध नहीं है, बल्कि इंसानियत की ज़िम्मेदारी से देखभाल करना है। यह एक ऐसा फ़र्क है जिसे वॉशिंगटन, ब्रुसेल्स और बीजिंग एक जैसे मानने में ज़्यादा से ज़्यादा हिचकिचा रहे हैं। पोप लियो ने मज़बूत कानूनी ढांचे, आज़ाद निगरानी, ​​जानकारी रखने वाले यूज़र्स और ऐसे पॉलिटिकल सिस्टम की मांग की है जो ज़िम्मेदारी से पीछे न हटें। ये कोई बड़ी मांगें नहीं हैं। ये डेमोक्रेटिक जवाबदेही का ज़रूरी ढांचा हैं जो ऐसे डोमेन पर लागू होता है जहाँ जवाबदेही खतरनाक रूप से गायब रही है।

बाबेल का टावर इसलिए नहीं गिरा क्योंकि उसे बनाने वालों में समझदारी की कमी थी, बल्कि इसलिए कि उनमें समझदारी की कमी थी। यही पोप लियो की चेतावनी है। दुनिया की सरकारें इस पर ध्यान देंगी या नहीं, यह अभी पक्का नहीं है। जैसा कि वह हमें याद दिलाते हैं, इतिहास ने ऐसा पहले भी देखा है — और इसका अंत अच्छा नहीं हुआ।