बिना जांच के AI एजेंट गंभीर सुरक्षा चिंताएं पैदा करते हैं: Sajjanar
Hyderabad हैदराबाद: सिटी पुलिस कमिश्नर वीसी सज्जनार ने ‘एजेंटिक आर्टिफिशियल इंटेलिजेंस’ के तेज़ी से बढ़ने पर चेतावनी दी है, और कहा है कि डिजिटल एजेंट्स की बिना जांच-पड़ताल वाली ऑटोनॉमी पब्लिक सेफ्टी, फाइनेंशियल सिस्टम और ज़रूरी इंफ्रास्ट्रक्चर के लिए बड़ा खतरा पैदा कर सकती है।
शुक्रवार को एक सोशल मीडिया पोस्ट में, सज्जनार ने बताया कि आर्टिफिशियल इंटेलिजेंस अब बेसिक चैटबॉट से कहीं आगे निकल गया है जो सिर्फ़ जानकारी देते हैं।
नई जेनरेशन के AI सिस्टम, जिन्हें एजेंटिक या ऑटोनॉमस AI के नाम से जाना जाता है, बिना इंसानी दखल के खुद से फैसले ले सकते हैं और काम कर सकते हैं। ये सिस्टम बैंकिंग, हेल्थकेयर, पावर डिस्ट्रीब्यूशन और इंडस्ट्रियल ऑपरेशन जैसे सेंसिटिव सेक्टर में पहले से ही इस्तेमाल किए जा रहे हैं।
कन्वेंशनल AI के उलट, जो कमांड पर रिस्पॉन्ड करता है, एजेंटिक AI सिचुएशन का अंदाज़ा लगा सकता है और खुद से काम कर सकता है। उदाहरण के लिए, ऐसे सिस्टम संदिग्ध ट्रांज़ैक्शन का पता चलने पर बैंक अकाउंट फ्रीज कर सकते हैं, मरीज़ के वाइटल्स के आधार पर दवा की डोज़ एडजस्ट कर सकते हैं और रियल टाइम में इंडस्ट्रियल मशीनरी की परफॉर्मेंस को कंट्रोल कर सकते हैं।
हालांकि, सज्जनार ने चेतावनी दी कि यह ऑटोनॉमी गंभीर चुनौतियां लाती है। AI एजेंट मिनटों में हज़ारों फैसले ले सकते हैं, और एक छोटी सी गलती भी बड़े पैमाने पर नुकसान पहुंचा सकती है।
सज्जनार ने कहा, “फाइनेंशियल मार्केट में एक गलत कदम से कुछ ही सेकंड में भारी नुकसान हो सकता है, जबकि साइबर क्रिमिनल गैरकानूनी काम करने के लिए कॉम्प्रोमाइज़्ड एजेंट का फायदा उठा सकते हैं।”
इंसानी निगरानी की ज़रूरत पर ज़ोर देते हुए, उन्होंने कहा कि डिजिटल एजेंट को बिना जवाबदेही के काम नहीं करना चाहिए।
सज्जनार ने हर AI एजेंट के लिए यूनिक डिजिटल पहचान बनाने और उनके कामों की डिटेल्ड लॉगिंग करने की बात कही, जिसमें डेटा एक्सेस, फ़ाइल में बदलाव और जानकारी शेयर करना शामिल है।
