पब्लिक सेक्टर AI कजाकिस्तान में डेटा पावर और अपारदर्शिता को बढ़ा सकता

+कज़ाकिस्तान के पब्लिक एडमिनिस्ट्रेशन में आर्टिफिशियल इंटेलिजेंस (AI) को शामिल करने की तेज़ी से हो रही कोशिश से छिपे हुए रिस्क पैदा हो सकते हैं, जो गलत एल्गोरिदम से कम, कानूनी डिज़ाइन, सेंट्रलाइज़्ड डेटा सिस्टम और कमज़ोर अकाउंटेबिलिटी सेफ़गार्ड से ज़्यादा असरदार होते हैं। यह बात रिसर्चर्स ने देश की बढ़ती डिजिटल हालत पर फ्रंटियर्स इन आर्टिफिशियल इंटेलिजेंस में छपी एक नई स्टडी में कही है।

"कज़ाकिस्तान के पब्लिक सेक्टर में आर्टिफिशियल इंटेलिजेंस के संभावित बुरे असर: छिपे हुए रिस्क का एनालिसिस" टाइटल वाली इस स्टडी में कज़ाकिस्तान के AI कानून, इसके नेशनल AI प्लेटफ़ॉर्म और स्मार्ट डेटा यूकिमेट और डिजिटल फ़ैमिली कार्ड जैसे बड़े डिजिटल गवर्नेंस प्रोजेक्ट्स की जांच की गई है, साथ ही सिविल सर्वेंट्स के साथ 53 इंटरव्यू के सेकेंडरी क्वालिटेटिव एनालिसिस पर भी ध्यान दिया गया है।

AI गवर्नेंस रिस्क नुकसान दिखने से पहले ही सामने आ जाते हैं

रिसर्च के मुताबिक, कज़ाकिस्तान के पब्लिक सेक्टर AI एजेंडा में मुख्य रिस्क सिर्फ़ यह नहीं है कि अलग-अलग सिस्टम सही हैं या कुशल। ज़्यादा बड़ी चिंता यह है कि बड़े पैमाने पर होने वाले नुकसान को मापना आसान होने से पहले ही रिस्क इंस्टीट्यूशनल स्ट्रक्चर में शामिल हो सकते हैं। लेखक इन्हें छिपे हुए या छिपे हुए रिस्क बताते हैं क्योंकि ये एक साफ़ टेक्निकल फेलियर के तौर पर दिखने के बजाय कानूनी परिभाषाओं, सेंट्रलाइज़्ड इंफ्रास्ट्रक्चर और एडमिनिस्ट्रेटिव रूटीन में शामिल हैं।

कज़ाकिस्तान ने अपनी AI स्ट्रैटेजी को फॉर्मल बनाने के लिए तेज़ी से कदम उठाए हैं। सरकार ने 2024–2029 के लिए आर्टिफिशियल इंटेलिजेंस के डेवलपमेंट के कॉन्सेप्ट को मंज़ूरी दी, आर्टिफिशियल इंटेलिजेंस और डिजिटल डेवलपमेंट मिनिस्ट्री बनाई, और "आर्टिफिशियल इंटेलिजेंस पर" एक डेडिकेटेड कानून अपनाया, जो जनवरी 2026 में लागू हुआ। यह कानून रिस्क-बेस्ड लॉजिक पेश करता है और लीगैलिटी, फेयरनेस, ट्रांसपेरेंसी, एक्सप्लेनेबिलिटी, ह्यूमन वेल-बीइंग, डेटा प्रोटेक्शन और कॉन्फिडेंशियलिटी जैसे प्रिंसिपल तय करता है।

हालांकि, स्टडी में पाया गया है कि ये प्रिंसिपल ऑपरेशनल लेवल पर अभी भी अविकसित हैं। रिसर्चर्स का तर्क है कि लीगल फ्रेमवर्क AI को काफी हद तक एक टूल के तौर पर डिफाइन करता है, जबकि यह अनसुलझा छोड़ देता है कि नागरिक AI-मीडिएटेड फैसलों को कैसे चुनौती दे सकते हैं, इंडिपेंडेंट ऑडिट कैसे काम करेंगे, नुकसान होने पर कौन ज़िम्मेदार होगा, और रेगुलेटरी ओवरसाइट को AI डिप्लॉयमेंट को बढ़ावा देने से कैसे अलग किया जाएगा।

पब्लिक सेक्टर में AI सिर्फ़ एक और सॉफ्टवेयर अपग्रेड नहीं है। सरकार में, AI एलिजिबिलिटी चेक, सर्विस एक्सेस, रिस्क स्कोरिंग, वेलफेयर क्लासिफिकेशन, टैक्स इंटरप्रिटेशन, अपील प्रोसेसिंग और सिटीजन प्रोफाइलिंग को आकार दे सकता है। एक बार पब्लिक एडमिनिस्ट्रेशन में शामिल हो जाने के बाद, एल्गोरिदमिक सिस्टम इस बात पर असर डाल सकते हैं कि अधिकार, फायदे और कर्तव्य कैसे बांटे जाते हैं।

लेखक बताते हैं कि कजाकिस्तान का मामला खास तौर पर महत्वपूर्ण है क्योंकि AI डेवलपमेंट एक सेंट्रलाइज्ड डिजिटल गवर्नेंस माहौल में हो रहा है। सरकार पहले से ही इंटीग्रेटेड डेटा सिस्टम, प्रोएक्टिव सर्विस टूल्स और प्लेटफॉर्म चलाती है जो बड़ी मात्रा में एडमिनिस्ट्रेटिव डेटा को एक साथ रखते हैं। ये सिस्टम एफिशिएंसी में सुधार कर सकते हैं, लेकिन वे एक जगह जमा पावर, सीमित मुकाबले और एल्गोरिदमिक फैसले लेने के लिए ऐसे हालात भी बनाते हैं जिन्हें समझना या चुनौती देना नागरिकों के लिए मुश्किल हो सकता है।

स्टडी यह दावा करने से बचती है कि कजाकिस्तान AI-इनेबल्ड सोशल कंट्रोल की जानबूझकर बनाई गई स्ट्रैटेजी अपना रहा है। इसका तर्क ज्यादा स्ट्रक्चरल है: AI सिस्टम पावर को शिफ्ट कर सकते हैं और अकाउंटेबिलिटी कम कर सकते हैं, भले ही उनका कोई खास दबाव डालने का इरादा न हो, अगर उन्हें सेंट्रलाइज्ड इंफ्रास्ट्रक्चर और कमजोर ओवरसाइट व्यवस्था के जरिए इस्तेमाल किया जाता है।

सेंट्रलाइज़्ड डेटा सिस्टम भेदभाव को और बढ़ा सकते हैं और जवाबदेही को कमज़ोर कर सकते हैं।

एक बड़ी चिंता कज़ाकिस्तान के सेंट्रलाइज़्ड डेटा इंफ्रास्ट्रक्चर की भूमिका है। स्मार्ट डेटा यूकिमेट 120 से ज़्यादा सरकारी डेटाबेस से डेटा को एक साथ लाता है और उसका एनालिसिस करता है, जबकि डिजिटल फ़ैमिली कार्ड घरेलू वेलफ़ेयर का आकलन करने और प्रोएक्टिव सोशल सर्विस और नोटिफ़िकेशन शुरू करने के लिए रजिस्ट्री डेटा को इकट्ठा करता है। इस नए सिस्टम में नेशनल AI प्लेटफ़ॉर्म, सॉवरेन बड़े लैंग्वेज मॉडल और ई-गवर्नमेंट और एडमिनिस्ट्रेटिव काम के लिए AI एजेंट भी शामिल हैं।

रिसर्च करने वालों का तर्क है कि ये सिस्टम रिस्क को इंस्टीट्यूशनल बना सकते हैं क्योंकि वे यह तय करते हैं कि नागरिक सरकार को कैसे दिखाई देते हैं। एक वेलफ़ेयर प्रोफ़ाइल, घरेलू स्कोर या ऑटोमेटेड एलिजिबिलिटी सिग्नल न्यूट्रल लग सकता है, लेकिन यह चुने गए डेटा, इस्तेमाल की गई कैटेगरी और लागू की गई लिमिट पर निर्भर करता है। अगर वे क्लासिफ़िकेशन गलत, पुराने या बहुत छोटे हैं, तो कमज़ोर नागरिकों को बिना कारण जाने बाहर रखा जा सकता है।

डिजिटल फ़ैमिली कार्ड को एक मुख्य उदाहरण के तौर पर पेश किया गया है। इसका मकसद मुश्किल हालात में परिवारों की पहचान करना और उन्हें सपोर्ट से जोड़ना है। लेकिन स्टडी चेतावनी देती है कि जब परिवार इनफ़ॉर्मल रोज़गार, कर्ज़, बीमारी, अस्थिर घर या दूसरी तरह की कमज़ोरी के बावजूद फ़ॉर्मल लिमिट पार नहीं करते हैं, तो मल्टीडाइमेंशनल स्कोरिंग गलत नेगेटिव नतीजे दे सकती है। ऐसे मामलों में, सर्विस नोटिफिकेशन का न होना एक आम एडमिनिस्ट्रेटिव नतीजा लग सकता है, जिससे फैसले का पता लगाना और उसे चुनौती देना मुश्किल हो जाता है।

स्टडी में घरेलू डेटा के क्रॉस-कॉन्टेक्स्ट इस्तेमाल के बारे में भी चेतावनी दी गई है। सोशल सपोर्ट के लिए इकट्ठा किया गया डेटा बाद में इंस्पेक्शन, क्रेडिटवर्थनेस असेसमेंट, रिस्क टारगेटिंग, बिहेवियरल प्रोफाइलिंग या राज्य के दूसरे तरह के इंटरैक्शन पर असर डाल सकता है, जब तक कि सख्त लिमिट न लगाई जाएं। इससे एल्गोरिदमिक स्ट्रेटिफिकेशन की संभावना बनती है, जहां नागरिक या घर डेटा-डिफाइंड कैटेगरी में फिक्स हो जाते हैं जो भविष्य के ट्रीटमेंट को आकार देते हैं।

यह रिस्क सॉवरेन बड़े लैंग्वेज मॉडल और AI असिस्टेंट तक फैला हुआ है। कजाकिस्तान की सॉवरेन-मॉडल स्ट्रैटेजी में कजाख, रूसी और दूसरी भाषाओं में काम करने और पब्लिक सर्विस, कानूनी जानकारी और एडमिनिस्ट्रेटिव वर्कफ़्लो को सपोर्ट करने के लिए डिज़ाइन किए गए सिस्टम शामिल हैं। लेखकों का तर्क है कि ऐसे टूल ऑफिशियल या इंस्टीट्यूशनली क्यूरेट किए गए इंटरप्रिटेशन को खास अधिकार दे सकते हैं अगर वे राज्य के डॉक्यूमेंट, नेशनल वेबसाइट और अप्रूव्ड डेटा सोर्स पर बहुत ज़्यादा निर्भर करते हैं।

इसका मतलब यह नहीं है कि मॉडल ज़रूरी तौर पर दूसरे विचारों को दबाने के लिए डिज़ाइन किए गए हैं। चिंता यह है कि एक सिंगल ऑफिशियल AI इंटरफ़ेस नागरिकों को मिलने वाले एक्सप्लेनेशन की रेंज को कम कर सकता है। अगर नागरिक कानूनी और पब्लिक सर्विस की जानकारी के लिए स्टेट-इंटीग्रेटेड AI एजेंट्स पर ज़्यादा निर्भर होते हैं, तो दूसरे मतलब, माइनॉरिटी पोजीशन और क्रिटिकल नज़रिए कम दिख सकते हैं।

स्टडी में अकाउंटेबिलिटी को एक और कमज़ोर पॉइंट बताया गया है। AI से होने वाले पब्लिक फैसलों में डेवलपर्स, प्लेटफॉर्म ऑपरेटर्स, यूज़र एजेंसियां ​​और नागरिक शामिल होते हैं। ऑडिट, लॉगिंग, मॉडल वर्शन ट्रैकिंग, इंसानी दखल और अपील के लिए डिटेल्ड नियमों के बिना, ज़िम्मेदारी बँट सकती है। डेवलपर्स टेक्निकल कम्प्लायंस की ओर इशारा कर सकते हैं, एजेंसियां ​​सिस्टम आउटपुट की ओर इशारा कर सकती हैं, और नागरिक यह समझने में नाकाम रह सकते हैं कि कोई फैसला कैसे लिया गया था।

स्टडी के लिए इंटरव्यू लिए गए सिविल सर्वेंट्स ने इस चिंता को और पक्का किया। कई लोगों ने डिजिटल सिस्टम को काम का बताया, लेकिन उन्हें हायरार्किकल, ओपेक, नाज़ुक और सेंट्रलाइज़्ड प्लेटफॉर्म पर निर्भर भी बताया। जवाब देने वालों ने फॉर्मलिज़्म, सिस्टम ओवरलोड, डेटा लीकेज, लिमिटेड फ्लेक्सिबिलिटी और अंदरूनी झगड़े में कम भरोसे के बारे में चिंता जताई। इन नतीजों से पता चलता है कि AI एक ऐसे एडमिनिस्ट्रेटिव कल्चर में जा रहा है जहाँ ज़िम्मेदारी को चुनौती देना पहले से ही मुश्किल है और जहाँ डिजिटल सिस्टम को तब भी ऑथेंटिक माना जा सकता है, जब उनका लॉजिक पूरी तरह से समझा न गया हो।

रिसर्चर्स ने ऑडिट, अपील के अधिकार और मज़बूत इंसानी निगरानी की मांग की है।

स्टडी में छिपे हुए रिस्क के पांच बड़े ग्रुप बताए गए हैं: पॉलिटिकल-लीगल और इंस्टीट्यूशनल रिस्क; डेटा और टेक्नोलॉजी रिस्क; ऑर्गेनाइज़ेशनल और मैनेजेरियल रिस्क; एक्सप्लेनेबिलिटी और ओपेसिटी रिस्क; और मार्केट और एनवायरनमेंटल रिस्क।

पॉलिटिकल और लीगल रिस्क इस बात से पैदा होते हैं कि अथॉरिटी कैसे बांटी जाती है। रिसर्चर्स ने चेतावनी दी है कि एक ही इंस्टीट्यूशनल सेंटर रेगुलेटरी, ऑपरेशनल और प्रमोशनल रोल निभा सकता है, जिससे तेज़ी से AI डिप्लॉयमेंट और मज़बूत अकाउंटेबिलिटी के बीच पोटेंशियल टकराव पैदा हो सकता है। अगर AI को बढ़ावा देने वाली बॉडी नियम भी बनाती है और इंफ्रास्ट्रक्चर को कंट्रोल करती है, तो बाहरी निगरानी कमज़ोर हो सकती है।

डेटा और टेक्नोलॉजी रिस्क सेंट्रलाइज़्ड डेटाबेस, AI प्लेटफॉर्म और प्रोएक्टिव सर्विस सिस्टम से आते हैं। ये टूल कोऑर्डिनेशन को बेहतर बना सकते हैं, लेकिन वे एजेंसियों में गलतियों को भी बढ़ा सकते हैं, बायस को मज़बूत कर सकते हैं, और डिटेल्ड सिटिज़न प्रोफ़ाइल बना सकते हैं जिन्हें चैलेंज करना मुश्किल होता है।

ऑर्गेनाइज़ेशनल रिस्क में डीस्किलिंग और AI इंटरफ़ेस पर डिपेंडेंस शामिल है। eGov AI असिस्टेंट, टैक्स असिस्टेंट, लीगल सपोर्ट सिस्टम और एजेंसी-स्पेसिफिक AI एजेंट जैसे टूल सिविल सर्वेंट्स को जानकारी तेज़ी से प्रोसेस करने में मदद कर सकते हैं। लेकिन स्टडी में चेतावनी दी गई है कि समय के साथ, वर्कर्स तुरंत फॉर्मूलेशन और सिस्टम आउटपुट पर ज़्यादा भरोसा कर सकते हैं।