Hyderabad पुलिस कमिश्नर ने AI एजेंट से होने वाले खतरे के बारे में चेतावनी दी

Hyderabad हैदराबाद: हैदराबाद पुलिस कमिश्नर वी.सी. सज्जनार ने 'एजेंटिक AI' से होने वाले खतरे पर चिंता जताई है और इससे निपटने के लिए उचित सुरक्षा उपायों, ट्रस्ट फ्रेमवर्क और गवर्नेंस की मांग की है।

पुलिस कमिश्नर ने शुक्रवार को एक सोशल मीडिया पोस्ट के ज़रिए बताया कि कैसे ऑटोनॉमस, मल्टी-एजेंटिक आर्टिफिशियल इंटेलिजेंस (AI) सिस्टम महत्वपूर्ण क्षेत्रों में स्वतंत्र रूप से काम करते हैं। उनके अनुसार, जोखिम दुर्भावनापूर्ण शोषण और अनजाने ऑटोनॉमस व्यवहार दोनों से पैदा होते हैं।

IPS अधिकारी ने समझाया कि AI की यात्रा ने एक नया मोड़ ले लिया है। हाल तक यह 'चैटबॉट्स' तक सीमित था जो सिर्फ हमारे सवालों के जवाब देते थे या टेक्स्ट लिखते थे, लेकिन अब यह टेक्नोलॉजी 'एजेंटिक AI' के स्तर तक विकसित हो गई है - ऐसे सिस्टम जो खुद फैसले लेने और काम करने में सक्षम हैं।

उन्होंने लिखा, "ऑटोनॉमस रोबोट एजेंट बैंक, अस्पताल और पावर ग्रिड जैसे बहुत महत्वपूर्ण क्षेत्रों में आ गए हैं। हालांकि, इन डिजिटल एजेंटों के बिना इंसानी दखल के स्वतंत्र रूप से काम करने से, यह व्यापक चिंता है कि हम उन पर से नियंत्रण खोने का जोखिम उठा रहे हैं।"

पुलिस कमिश्नर ने इस बात पर ज़ोर दिया कि आम आदमी को यह समझना चाहिए कि यह एजेंटिक AI असल में क्या है। "उदाहरण के लिए, अगर आप किसी रेगुलर AI से पूछते हैं, 'बाहर मौसम कैसा है?', तो वह सिर्फ जानकारी देता है। लेकिन एजेंटिक AI अलग है; यह महसूस करके कि मौसम खराब है, यह खुद ही खिड़कियां बंद कर सकता है और AC का तापमान एडजस्ट कर सकता है। इसका मतलब है कि यह सिर्फ सोचता नहीं है; यह विचारों को अमल में लाता है।

"वित्तीय क्षेत्र में संदिग्ध लेनदेन होने पर खातों को फ्रीज करना, अस्पतालों में मरीज के BP और शुगर लेवल के आधार पर दवाओं की खुराक बदलना, और उद्योगों में मशीनों के परफॉर्मेंस को कंट्रोल करना - ये एजेंट ऐसे काम खुद कर रहे हैं। इनकी खासियत यह है कि ये दूसरे AI एजेंटों के साथ चर्चा करके और मिलकर किसी काम को पूरा करते हैं। यह ऑटोनॉमी अब एक बड़ी चुनौती बन गई है।"

सज्जनार ने कहा कि ये एजेंट, जो बिना इंसानी निगरानी के मिनटों में हजारों फैसले लेते हैं, अगर कहीं भी छोटी सी भी गलती करते हैं तो इससे बहुत बड़ा खतरा हो सकता है।

"उदाहरण के लिए, अगर कोई AI एजेंट शेयर बाजार में गलत फैसला लेता है, तो सिर्फ कुछ ही सेकंड में करोड़ों का नुकसान हो सकता है। इसी तरह, साइबर अपराधी इन एजेंटों के व्यवहार को हाईजैक करके उनसे गलत काम करवाने का खतरा है। 'अनजाने व्यवहार' का भी जोखिम है, जहां एजेंट मालिक द्वारा दिए गए काम को गलत समझता है और लक्ष्य को पाने के लिए गलत रास्ता अपनाता है। उन्होंने कहा, "इसीलिए एक्सपर्ट्स यह साफ करते हैं कि इन अल्ट्रा-मॉडर्न एजेंट्स की लगाम इंसानों के हाथों में ही रहनी चाहिए।"

टॉप पुलिस अधिकारी का मानना ​​है कि हर AI एजेंट की एक सटीक 'डिजिटल पहचान' होनी चाहिए। "जैसे किसी ऑर्गनाइज़ेशन में इंसान के पास ID कार्ड होता है, वैसे ही इन सॉफ्टवेयर एजेंट्स की भी पहचान होनी चाहिए। किस एजेंट ने कौन सी फ़ाइल खोली? उसने कब बदलाव किए? उसने किसे जानकारी भेजी? ऐसी हर हरकत रिकॉर्ड होनी चाहिए (लॉगिंग)।

"इस वजह से, अगर गलती से कोई हादसा होता है, तो हम तुरंत पहचान सकते हैं कि किस एजेंट की वजह से हुआ और समस्या को ठीक कर सकते हैं। आखिर में, इन एजेंट्स को कितनी आज़ादी दी जानी चाहिए और उन्हें किस डेटा तक पहुंचने की इजाज़त है, इसके बारे में सख्त नियम (गवर्नेंस) होने चाहिए। ज़रूरी फैसले लेने से पहले इंसान की इजाज़त ली जाए, यह पक्का करने के लिए 'ट्रस्ट फ़्रेमवर्क' डिज़ाइन किए जाने चाहिए। टेक्नोलॉजी से काम में तेज़ी लाना ज़रूरी है, लेकिन सुरक्षा उससे भी ज़्यादा ज़रूरी है। टेक एक्सपर्ट्स चेतावनी देते हैं कि अगर हम ऑटोमेशन की स्पीड को समझदारी से कंट्रोल नहीं करते हैं, तो इससे होने वाले नुकसान फ़ायदों से ज़्यादा होंगे," उन्होंने आगे कहा।