Sydney वूलवर्थ्स के AI एजेंट ने 'मदर' पर बकवास की, टेक रोलआउट में समस्याओं का संकेत

ऑस्ट्रेलियाई Australian: हाल ही में कुछ ऑस्ट्रेलियाई खरीदारों को वूलवर्थ्स के आर्टिफिशियल इंटेलिजेंस (AI) असिस्टेंट, ऑलिव से बात करने पर उम्मीद से ज़्यादा मिला। किराने का सामान, रेसिपी और बास्केट के सुझावों पर टिके रहने के बजाय, ऑलिव ने कथित तौर पर अजीब, बहुत ज़्यादा इंसानों जैसे जवाब दिए। उसने अपनी “माँ” के बारे में बात की और दूसरी पर्सनल लगने वाली डिटेल्स दीं। आगे की टेस्टिंग में बेसिक चीज़ों की प्राइसिंग में गलतियाँ सामने आईं। और जब मैंने किसी खास प्रोडक्ट की कीमत के बारे में पूछा, तो ऑलिव ने कोई साफ़ जवाब नहीं दिया। इसके बजाय, उसने चेक किया कि आइटम स्टॉक में है या नहीं और पिकअप फीस के बारे में बताया। तो असल में यहाँ क्या हो रहा है? और इन घटनाओं से बिज़नेस और कंज्यूमर दोनों को क्या सबक मिल सकते हैं? असल में क्या हुआ? ऑलिव एक बड़े लैंग्वेज मॉडल (LLM) से चलता है। ये मॉडल चीज़ों को इंसानों की तरह “नहीं जानते”, और न ही उनकी माँ होती है। डिटेल्ड स्टैटिस्टिकल एनालिसिस का इस्तेमाल करके, वे ऐसी भाषा बनाते हैं जो सही लगती है। ऑस्ट्रेलियन फाइनेंशियल रिव्यू को वूलवर्थ्स के एक स्पोक्सपर्सन के कमेंट्स से पता चलता है कि ओलिव के मामले में, उसकी कथित मां के रेफरेंस कई साल पहले से लिखी हुई स्क्रिप्ट लगती हैं।

जब यूज़र्स ने कुछ ऐसा डाला जो जन्मतिथि जैसा दिखता था, तो सिस्टम ने शायद पुराने डिसीजन ट्री से पहले से प्रोग्राम किए गए रिस्पॉन्स के साथ एक मैचिंग “फन फैक्ट” ट्रिगर किया। वूलवर्थ्स का कहना है कि उसने अब “कस्टमर फीडबैक के कारण” इस खास स्क्रिप्टिंग को हटा दिया है। प्राइसिंग की गलतियां एक अलग प्रॉब्लम की ओर इशारा करती हैं। क्योंकि LLMs रियल-टाइम डेटा के बजाय सीखे हुए पैटर्न के आधार पर रिस्पॉन्स जेनरेट करते हैं, इसलिए वे आज की कीमतों को ऑटोमैटिकली तब तक नहीं जान पाते जब तक कि वे किसी लाइव डेटाबेस से साफ तौर पर कनेक्ट न हों। अगर वह ग्राउंडिंग स्टेप कमजोर है, तो सिस्टम पुरानी कीमतें दिखा सकता है।

कोई नई प्रॉब्लम नहीं

वूलवर्थ्स पहली कंपनी नहीं है जिसे बाद में पता चला कि उसके कस्टमर-फेसिंग AI ने अचानक “गलत काम” किया था। 2022 में, एयर कनाडा के चैटबॉट ने एक पैसेंजर, जेक मोफैट को गलत तरीके से बताया कि वह पूरी कीमत पर टिकट खरीद सकता है और बाद में शोक के समय किराए के रिफंड के लिए अप्लाई कर सकता है। ऐसी कोई पॉलिसी नहीं थी। जब एयर कनाडा ने चैटबॉट की सलाह मानने से इनकार कर दिया, तो मोफैट ने एयरलाइन पर केस कर दिया और जीत गया। एयर कनाडा का बचाव ज़बरदस्त था। उसने तर्क दिया कि चैटबॉट एक अलग कानूनी एंटिटी है, जो अपने कामों के लिए खुद ज़िम्मेदार है और इसलिए एयरलाइन की ज़िम्मेदारी से बाहर है। ट्रिब्यूनल ने इसे पूरी तरह से खारिज कर दिया। उसने फैसला सुनाया कि चैटबॉट कंपनी की वेबसाइट का हिस्सा है, और कंपनी अपने आउटपुट की मालिक है।

जनवरी 2024 में, UK की पार्सल डिलीवरी फर्म DPD को एक अलग तरह की शर्मिंदगी का सामना करना पड़ा। एक परेशान कस्टमर, जिसे खोए हुए पार्सल को ढूंढने में मदद नहीं मिल रही थी, ने DPD के चैटबॉट से कंपनी की बुराई करने वाली एक कविता लिखने को कहा। उसने ऐसा किया। फिर उसने उससे गाली देने को कहा। उसने वह भी किया। यह बातचीत सोशल मीडिया पर वायरल हो गई। DPD ने कुछ ही समय बाद चैटबॉट को डिसेबल कर दिया। दोनों मामले एक ही अंदरूनी नाकामी की ओर इशारा करते हैं: कंपनियों ने बिना पूरी निगरानी के कस्टमर-फेसिंग AI लॉन्च किया और इसके नतीजों से वे हैरान रह गईं।

वूलवर्थ्स की क्या ज़िम्मेदारी है?

वूलवर्थ्स ऑस्ट्रेलिया में सबसे बड़ी सुपरमार्केट चेन चलाती है। इसने ओलिव को अपने कस्टमर्स के लिए एक भरोसेमंद, आसान इंटरफ़ेस के तौर पर प्रमोट किया है, जो यह उम्मीद कर सकते हैं कि ओलिव जो जानकारी देती है वह सही है। यह मानना ​​कि ओलिव गलतियाँ कर सकती है, जैसा कि वूलवर्थ्स करती है जब कोई यूज़र चैटबॉट खोलता है, उस उम्मीद के साथ आसानी से नहीं बैठता। इसका एक बड़ा नैतिक पहलू भी है। वूलवर्थ्स उन कस्टमर्स को सर्विस देती है, जो कई मामलों में घर के बजट के बारे में सोच-समझकर फ़ैसले लेते हैं। ACCC ने कथित तौर पर गुमराह करने वाले डिस्काउंट प्राइसिंग तरीकों को लेकर वूलवर्थ्स के ख़िलाफ़ पहले ही कार्रवाई शुरू कर दी है। इस संदर्भ में ओलिव प्राइसिंग की गलतियों को एक अलग टेक्निकल गड़बड़ी के तौर पर नज़रअंदाज़ करना मुश्किल है।

जो कंपनियाँ कस्टमर-फेसिंग रोल में AI का इस्तेमाल करती हैं, उनकी यह ज़िम्मेदारी होती है कि वे यह पक्का करें कि वे सिस्टम सही और ईमानदारी से पेश किए गए हों। यह ज़िम्मेदारी इसलिए कम नहीं होती क्योंकि टेक्नोलॉजी नई है। कंपनियाँ ऐसे चैटबॉट क्यों बनाती रहती हैं जो आपके दोस्त होने का दिखावा करते हैं? ओलिव की प्रोग्राम्ड पर्सनैलिटी के पीछे का लॉजिक बेबुनियाद नहीं है। ह्यूमन-कंप्यूटर इंटरैक्शन पर रिसर्च में लगातार पाया गया है कि लोग ऐसे इंटरफेस पर पॉजिटिव रिस्पॉन्स देते हैं जो बातचीत वाले और अच्छे लगते हैं। इंसानों जैसे चैटबॉट जिनका नाम और पर्सनैलिटी होती है, वे ज़्यादा कस्टमर एंगेजमेंट, सैटिस्फैक्शन और भरोसा पैदा करते हैं।

कंपनियों के लिए, कमर्शियल अपील सीधी है: जो कस्टमर चैटबॉट के साथ सहज महसूस करता है, उसके ट्रांज़ैक्शन पूरा करने और वापस आने की संभावना ज़्यादा होती है। हालांकि, इसमें एक बड़ा रिस्क भी है। जब कोई एंथ्रोपोमोर्फाइज़्ड चैटबॉट अपनी पर्सनैलिटी से बनी उम्मीदों पर खरा नहीं उतरता है, तो कस्टमर एक आम मैकेनिकल सिस्टम से ज़्यादा नाखुश होते हैं। इस “एक्सपेक्टेशन वायलेशन” का मतलब है कि पर्सनैलिटी जितनी अच्छी होगी, पतन उतना ही मुश्किल होगा। ज़्यादा बड़ा दांव ओलिव एपिसोड एक रिमाइंडर है कि कस्टमर-फेसिंग रोल में AI को डिप्लॉय करना कोई सेट-एंड-फॉरगेट एक्सरसाइज नहीं है।