साइबर क्रिमिनल गलत AI प्रॉम्प्ट का इस्तेमाल करके पीड़ितों को धोखा देते हैं

Hyderabad,हैदराबाद: हैदराबाद पुलिस कमिश्नर वी सी सज्जनार ने सोमवार को X पर एक पोस्ट में कहा कि साइबर क्रिमिनल पीड़ित को गुमराह करने और डेटा सिक्योरिटी को नुकसान पहुंचाने के लिए AI को गलत संकेत दे रहे हैं।

सज्जनार ने कहा कि बदमाश AI को 'प्रॉम्प्ट इंजेक्शन अटैक' से धोखा दे रहे हैं, ताकि वे कंपनियों के अंदरूनी डॉक्यूमेंट, कस्टमर रिकॉर्ड और सिस्टम डिटेल्स निकाल सकें, जिन्हें आम तौर पर नहीं बताया जाना चाहिए।

सज्जनार ने कहा कि AI के बढ़ते इस्तेमाल के साथ, स्टार्ट-अप से लेकर बड़ी मल्टीनेशनल कंपनियां अब 'AI चैटबॉट' का नाम ले रही हैं और कई ऑर्गनाइज़ेशन इन पर तेज़ी से भरोसा कर रहे हैं क्योंकि इनके कस्टमर के सवालों के तुरंत जवाब, काम की स्पीड में बढ़ोतरी और लागत में कमी जैसे फायदे हैं।

कई ऑर्गनाइज़ेशन के लिए डेटा सिक्योरिटी एक बड़ी चुनौती है, जो अब अपने AI मॉडल और चैटबॉट को ऑर्गनाइज़ेशन के अंदर ज़रूरी डेटा सिस्टम से जोड़ रहे हैं। जानकारी गलती से एंड यूज़र को नहीं दिखनी चाहिए।

पुलिस कमिश्नर ने चेतावनी दी कि हैकर्स का एक भी 'ट्रिकी संकेत' इस सारी कॉन्फिडेंशियल जानकारी को सामने ला सकता है। ऑर्गनाइज़ेशन को इस खतरे का पता लगाने और उसे रोकने के लिए तुरंत 'प्रॉम्प्ट गार्डरेल' लगाने की ज़रूरत है। सिक्योरिटी की एक लेयर काफ़ी नहीं है और मल्टी-लेयर डिफेंस अप्रोच अपनाना चाहिए।