एक नए अध्ययन से पता चला है कि शोधकर्ताओं ने कहा है कि ओपनएआई के एआई चैटबॉट चैटजीपीटी 3.5 ने कैंसर के इलाज के लिए अनुचित ("गैर-समवर्ती") सिफारिशें प्रदान की हैं, जो प्रौद्योगिकी की सीमाओं के बारे में जागरूकता की आवश्यकता पर प्रकाश डालती हैं। जर्नल जेएएमए ऑन्कोलॉजी में प्रकाशित अध्ययन के अनुसार, शोधकर्ताओं ने एआई चैटबॉट को नेशनल कॉम्प्रिहेंसिव कैंसर नेटवर्क (एनसीसीएन) द्वारा स्थापित दिशानिर्देशों के अनुरूप उपचार सलाह प्रदान करने के लिए प्रेरित किया। "चैटजीपीटी प्रतिक्रियाएं बहुत हद तक इंसान की तरह लग सकती हैं और काफी ठोस हो सकती हैं। लेकिन, जब नैदानिक निर्णय लेने की बात आती है, तो प्रत्येक रोगी की अनूठी स्थिति के लिए बहुत सारी सूक्ष्मताएं होती हैं। एक सही उत्तर बहुत सूक्ष्म हो सकता है, और जरूरी नहीं कि कुछ हो चैटजीपीटी या कोई अन्य बड़ा भाषा मॉडल प्रदान कर सकता है,'' अमेरिका स्थित मास जनरल ब्रिघम में विकिरण ऑन्कोलॉजी विभाग के एमडी, संबंधित लेखक डेनिएल बिटरमैन ने कहा। शोधकर्ताओं ने तीन सबसे आम कैंसर (स्तन, प्रोस्टेट और फेफड़ों के कैंसर) पर ध्यान केंद्रित किया और चैटजीपीटी को रोग की गंभीरता के आधार पर प्रत्येक कैंसर के लिए उपचार दृष्टिकोण प्रदान करने के लिए प्रेरित किया। कुल मिलाकर, उन्होंने 26 अद्वितीय निदान विवरण शामिल किए और चार, थोड़े अलग संकेतों का उपयोग किया। अध्ययन के अनुसार, लगभग सभी प्रतिक्रियाओं (98 प्रतिशत) में कम से कम एक उपचार दृष्टिकोण शामिल था जो एनसीसीएन दिशानिर्देशों से सहमत था। हालाँकि, शोधकर्ताओं ने पाया कि इनमें से 34 प्रतिशत प्रतिक्रियाओं में एक या अधिक गैर-समवर्ती सिफारिशें भी शामिल थीं, जिन्हें अन्यथा ध्वनि मार्गदर्शन के बीच कभी-कभी पता लगाना मुश्किल होता था। 12.5 प्रतिशत मामलों में, चैटजीपीटी ने "मतिभ्रम" या एनसीसीएन दिशानिर्देशों से पूरी तरह से अनुपस्थित उपचार की सिफारिश की, जिसमें उपन्यास उपचारों की सिफारिशें, या गैर-उपचारात्मक कैंसर के लिए उपचारात्मक उपचार शामिल थे। शोधकर्ताओं ने कहा कि गलत सूचना का यह रूप उपचार के बारे में रोगियों की अपेक्षाओं को गलत तरीके से निर्धारित कर सकता है और संभावित रूप से चिकित्सक-रोगी संबंध को प्रभावित कर सकता है। "उपयोगकर्ता स्वास्थ्य संबंधी विषयों पर खुद को शिक्षित करने के लिए एलएलएम से उत्तर मांग सकते हैं - ठीक उसी तरह जैसे Google खोजों का उपयोग किया गया है। साथ ही, हमें जागरूकता बढ़ाने की आवश्यकता है कि एलएलएम प्रशिक्षित चिकित्सा पेशेवरों के समकक्ष नहीं हैं, "मेडिसिन में आर्टिफिशियल इंटेलिजेंस (एआईएम) कार्यक्रम के पहले लेखक शान चेन, एमएस ने कहा।