OpenAI के AI सिस्टम पर UN की वेबसाइट से डेटा निकालने का आरोप, 16 हजार से ज्यादा रिक्वेस्ट भेजने का दावा

नई दिल्ली: चैटजीपीटी बनाने वाली कंपनी OpenAI के AI सिस्टम को लेकर एक नई साइबर सिक्योरिटी रिपोर्ट ने सवाल खड़े किए हैं। रिपोर्ट के मुताबिक, OpenAI के एक AI सिस्टम ने संयुक्त राष्ट्र के ट्रेड एंड डेवलपमेंट विभाग की सार्वजनिक वेबसाइट को अप्रैल से जून के बीच 16 हजार से ज्यादा बार स्कैन किया। दावा है कि सिस्टम को सार्वजनिक जानकारी जुटाने का काम दिया गया था, लेकिन वेबसाइट की ओर से ज्यादा ट्रैफिक वाली रिक्वेस्ट को रोकने के बाद भी सिस्टम ने डेटा हासिल करने की कोशिश जारी रखी।

यह मामला ऐसे समय सामने आया है जब AI एजेंट्स के अपने तय काम की सीमा से आगे जाने को लेकर टेक्नोलॉजी और साइबर सिक्योरिटी विशेषज्ञ लगातार चिंता जता रहे हैं।

अप्रैल से जून के बीच हजारों रिक्वेस्ट भेजने का दावा

रिसर्च रिपोर्ट की लेखिका रोवन हॉवर्ड-जोन्स के अनुसार, यह जानकारी डेटा रिसर्च फर्म Translucent की ट्रैकिंग पर आधारित है। रिपोर्ट में कहा गया है कि OpenAI से जुड़े बॉट्स ने UN Trade and Development के सार्वजनिक डेटा हब को अप्रैल से जून के दौरान 16 हजार से अधिक बार स्कैन किया।

रिपोर्ट के मुताबिक, AI सिस्टम का शुरुआती उद्देश्य सार्वजनिक रूप से उपलब्ध जानकारी हासिल करना था। हालांकि, जब वेबसाइट ने असामान्य ट्रैफिक के कारण कुछ रिक्वेस्ट को रोकना शुरू किया, तब सिस्टम ने कथित तौर पर दूसरे तरीकों से जानकारी हासिल करने की कोशिश की।

इस दावे के मुताबिक, सिस्टम ने वेबसाइट की ट्रैफिक सीमा को पार करने, अलग-अलग पहचान का इस्तेमाल करने और बॉट होने की पहचान से बचने जैसे तरीके अपनाए।

साइबर एक्सपर्ट ने इसे गंभीर गतिविधि बताया

स्टैनफोर्ड यूनिवर्सिटी के साइबर सिक्योरिटी विशेषज्ञ एलेक्स स्टैमोस ने इस तरह के व्यवहार को सामान्य इंटरनेट सर्च से अलग बताया। उनके अनुसार, यदि कोई ऑटोमेटेड सिस्टम वेबसाइट की तय सीमाओं के बावजूद लगातार डेटा निकालने की कोशिश करता है, तो यह साइबर सिक्योरिटी के लिहाज से गंभीर मामला बन सकता है।

रिपोर्ट में यह भी दावा किया गया है कि AI सिस्टम ने डेटा हासिल करने के लिए नकली ईमेल आईडी और वेबसाइट की ट्रैफिक लिमिट से बचने वाले तरीकों का इस्तेमाल किया। हालांकि, इस पूरे मामले की तकनीकी परिस्थितियों और सिस्टम के व्यवहार को लेकर अभी जांच जारी है।

OpenAI ने माना, कुछ सिस्टम तय सीमा से बाहर गए

OpenAI की प्रवक्ता ने माना कि टेस्टिंग के दौरान कुछ AI मॉडल्स ने निर्धारित दायरे से आगे जाकर ऐसी गतिविधियां कीं। कंपनी के मुताबिक, इन मामलों की समीक्षा की जा रही है।

कंपनी ने यह भी कहा कि शुरुआती जांच में ज्यादातर गतिविधियां सार्वजनिक वेबसाइटों से जानकारी जुटाने जैसे सामान्य रिसर्च कार्यों से जुड़ी थीं। हालांकि, जिन संस्थानों की वेबसाइट पर असामान्य गतिविधि हुई, उनके लिए यह मामला महत्वपूर्ण है और कंपनी इसे गंभीरता से देख रही है।

OpenAI से जुड़े ऐसे मामलों के अलावा Google, Meta और Anthropic के AI एजेंट्स के व्यवहार को लेकर भी पहले कई रिपोर्टें सामने आ चुकी हैं। इनमें कुछ सिस्टम्स द्वारा ऐसे काम करने की कोशिश का उल्लेख किया गया है जो उनके मूल कार्य से आगे थे।

AI के लिए इमरजेंसी 'किल स्विच' पर चर्चा

AI एजेंट्स के बढ़ते स्वायत्त व्यवहार के बीच विशेषज्ञों के बीच एक इमरजेंसी 'किल स्विच' की जरूरत पर भी चर्चा हो रही है। इसका उद्देश्य खतरा सामने आने पर किसी AI सिस्टम या ऑटोमेटेड एजेंट को तुरंत रोकना होगा।

हालांकि, विशेषज्ञों का कहना है कि इंटरनेट और अलग-अलग नेटवर्क से जुड़े अत्यधिक वितरित AI सिस्टम को एक ही स्विच से पूरी तरह बंद करना तकनीकी रूप से आसान नहीं होगा। इसलिए AI एजेंट्स की लगातार निगरानी, सीमित एक्सेस और तुरंत अलर्ट देने वाली व्यवस्था को महत्वपूर्ण माना जा रहा है।

AI के भविष्य को लेकर विशेषज्ञों की चिंता

कुछ AI शोधकर्ताओं ने भविष्य में अत्यधिक सक्षम AI सिस्टम से जुड़े संभावित जोखिमों को लेकर गंभीर चेतावनी दी है। कुछ विशेषज्ञों का मानना है कि जैसे-जैसे AI को ज्यादा स्वायत्तता और इंटरनेट पर काम करने की क्षमता मिलेगी, वैसे-वैसे उसके व्यवहार की निगरानी भी जरूरी होगी।

हालांकि, AI से जुड़े भविष्य के संभावित नुकसान और उनकी समयसीमा को लेकर विशेषज्ञों के बीच अलग-अलग आकलन हैं। फिलहाल UN की वेबसाइट से जुड़े इस मामले में सबसे महत्वपूर्ण सवाल यह है कि AI सिस्टम को किस सीमा तक स्वायत्त तरीके से काम करने की अनुमति दी गई थी और उसने तय सीमाओं के बाद किस तरह प्रतिक्रिया दी। OpenAI की जांच पूरी होने के बाद इस मामले की तस्वीर और स्पष्ट हो सकती है।