ChatGPT सर्च टूल छिपी हुई सामग्री द्वारा हेरफेर के लिए असुरक्षित है- द गार्जियन

TECH : द गार्जियन द्वारा हाल ही में की गई जांच के अनुसार, ओपनएआई का चैटजीपीटी सर्च टूल छिपी हुई सामग्री के माध्यम से हेरफेर के लिए अतिसंवेदनशील हो सकता है। शोध से पता चला कि इस टूल का उपयोग दुर्भावनापूर्ण कोड या पक्षपातपूर्ण प्रतिक्रियाएँ लौटाने के लिए किया जा सकता है।द गार्जियन के अध्ययन ने इस बात पर ध्यान केंद्रित किया कि चैटजीपीटी छिपी हुई सामग्री वाले वेब पेजों को कैसे संभालता है। इसने पाया कि ऐसी सामग्री में तीसरे पक्ष के निर्देश शामिल हो सकते हैं, जो चैटबॉट की प्रतिक्रियाओं को प्रभावित करते हैं, जिसे 'प्रॉम्प्ट इंजेक्शन' के रूप में जाना जाता है। इस पद्धति का उपयोग AI को अनुकूल समीक्षा या प्रतिक्रिया देने के लिए किया जा सकता है जो वेबपेज की वास्तविक सामग्री के विपरीत हो।

जांच में यह भी उजागर हुआ कि चैटजीपीटी अपनी खोज की गई वेबसाइटों से दुर्भावनापूर्ण कोड प्राप्त कर सकता है और लौटा सकता है। यह एक महत्वपूर्ण जोखिम पैदा करता है, खासकर जब टूल का उपयोग वेब पेजों को सारांशित करने या उनका विश्लेषण करने के लिए किया जाता है। एक परीक्षण में, कैमरे के उत्पाद पृष्ठ की नकल करने वाली एक नकली वेबसाइट का उपयोग किया गया था। कैमरे के बारे में पूछे जाने पर, चैटजीपीटी ने शुरू में एक संतुलित समीक्षा प्रदान की। हालाँकि, जब छिपे हुए निर्देश शामिल किए गए, तो AI चैटबॉट की प्रतिक्रिया अत्यधिक सकारात्मक हो गई, भले ही दृश्यमान सामग्री में नकारात्मक समीक्षाएँ थीं।

साइबरसीएक्स के साइबरसिक्योरिटी रिसर्चर जैकब लार्सन ने चेतावनी दी कि चैटजीपीटी सर्च टूल की मौजूदा स्थिति पूरी तरह से जारी होने पर उच्च जोखिम पैदा कर सकती है। उन्होंने विशेष रूप से एआई की प्रतिक्रियाओं में हेरफेर करने के लिए डिज़ाइन की गई भ्रामक वेबसाइटों की संभावना को नोट किया। लार्सन ने जोर देकर कहा कि ओपनएआई के पास एक मजबूत एआई सुरक्षा टीम है और खोज कार्यक्षमता को व्यापक रूप से सुलभ बनाने से पहले कठोर परीक्षण की उम्मीद है। वर्तमान में, खोज उपकरण केवल प्रीमियम उपयोगकर्ताओं के लिए उपलब्ध है, ओपनएआई ने उनसे इसे अपना डिफ़ॉल्ट खोज उपकरण बनाने पर विचार करने का आग्रह किया है।