सम्पादकीय
ऑनलाइन रिटेल में AI सिफारिशें नाकाम, खरीदार खोने का जोखिम बढ़ा
AI सिफारिशें नाकाम
नई रिसर्च में पता चला है कि ऑनलाइन कंज्यूमर का भरोसा जीतने के लिए सिर्फ ट्रांसपेरेंसी काफी नहीं है। जब यूज़र्स को यह समझ आ जाता है कि सिस्टम कैसे काम करता है, वे इसके रिकमेन्डेशन को फेयर मानते हैं और उन्हें लगता है कि वे इंटरैक्शन को कंट्रोल कर सकते हैं, तो वे AI-पावर्ड रिकमेन्डेशन सिस्टम पर भरोसा करने और उनके सुझावों पर एक्शन लेने की ज़्यादा संभावना रखते हैं।
यह स्टडी, जिसका टाइटल "AI ट्रांसपेरेंसी एंड यूज़र बिहेवियर इन ह्यूमन-AI कोलैबोरेशन: एविडेंस फ्रॉम ई-कॉमर्स रिकमेन्डेशन सिस्टम्स" है, जर्नल ऑफ़ थियोरेटिकल एंड एप्लाइड इलेक्ट्रॉनिक कॉमर्स रिसर्च में पब्लिश हुई थी। लेखक ने एक मॉडल टेस्ट किया कि AI ट्रांसपेरेंसी ई-कॉमर्स में भरोसे और खरीदने के इरादे को कैसे आकार देती है, इसके लिए उन्होंने 312 रिकमेन्डर-सिस्टम यूज़र्स के सर्वे डेटा और पार्शियल लीस्ट स्क्वेयर्स स्ट्रक्चरल इक्वेशन मॉडलिंग का इस्तेमाल किया ताकि ट्रांसपेरेंसी, एल्गोरिदमिक समझ, फेयरनेस परसेप्शन, परसेप्शन्ड कंट्रोल, भरोसे और खरीदने के इरादे के बीच लिंक की जांच की जा सके।
ई-कॉमर्स के फैसले ह्यूमन-AI कोलैबोरेशन बन रहे हैं
रिकमेन्डेशन सिस्टम डिजिटल कॉमर्स का एक अहम हिस्सा बन गए हैं। वे अब सिर्फ पैसिव फिल्टर के तौर पर काम नहीं करते जो यूज़र्स को बड़े कैटलॉग में से छांटने में मदद करते हैं। वे यह तय करते हैं कि कस्टमर क्या देखते हैं, चॉइस कैसे अरेंज की जाती हैं और ऑनलाइन शॉपिंग के दौरान कौन से प्रोडक्ट सबसे ज़्यादा रेलिवेंट लगते हैं। यह इंटरैक्शन ह्यूमन-AI कोलेबोरेशन का एक रूप है, इसलिए नहीं कि यूज़र और सिस्टम मिलकर एक कॉम्प्लेक्स टू-वे पार्टनरशिप में ढलते हैं, बल्कि इसलिए कि यूज़र एक्टिवली AI से मिले सुझावों को समझता है, उनका मूल्यांकन करता है और उन्हें खरीदने के फैसलों में शामिल करता है।
यह बदलाव कंज्यूमर बिहेवियर को समझने का तरीका बदल देता है। ट्रेडिशनल ई-कॉमर्स मॉडल अक्सर प्लेटफॉर्म क्वालिटी, इस्तेमाल में आसानी, भरोसे और खरीदने के इरादे पर फोकस करते थे। नई स्टडी का तर्क है कि AI से होने वाली शॉपिंग के लिए ज़्यादा डिटेल्ड एक्सप्लेनेशन की ज़रूरत है। एल्गोरिदम वाले माहौल में, यूज़र सिर्फ़ एक वेबसाइट पर रिएक्ट नहीं कर रहा होता है। यूज़र एक ऐसे सिस्टम को समझने की कोशिश कर रहा होता है जिसका डिसीजन लॉजिक थोड़ा छिपा हो सकता है।
इसलिए, AI ट्रांसपेरेंसी को एक इन्फॉर्मेशनल स्टिमुलस माना जाता है। यह इस बात को बताता है कि यूज़र किस हद तक मानते हैं कि कोई सिस्टम इस बारे में साफ जानकारी देता है कि रिकमेंडेशन कैसे जेनरेट की जाती हैं, कौन से क्राइटेरिया इस्तेमाल किए जाते हैं, यूज़र डेटा सुझावों को कैसे आकार देता है और कुछ खास प्रोडक्ट क्यों दिखाए जाते हैं। आसान शब्दों में, ट्रांसपेरेंसी मायने रखती है क्योंकि यह यूज़र को सिस्टम के लॉजिक के बारे में सुराग देती है।
स्टडी इस विचार को खारिज करती है कि ट्रांसपेरेंसी अपने आप भरोसा पैदा करती है। इसके बजाय, यह एक प्रोसेस-बेस्ड मॉडल का प्रस्ताव करती है। ट्रांसपेरेंसी सबसे पहले कॉग्निटिव मैकेनिज्म पर असर डालती है। इनमें एल्गोरिदम की समझ, या यूज़र की यह समझने की क्षमता कि रिकमेंडेशन सिस्टम कैसे काम करता है, और फेयरनेस की समझ, या यूज़र का यह फैसला कि रिकमेंडेशन बिना किसी भेदभाव के, सही और उनके हितों के हिसाब से हैं, शामिल हैं। ये कॉग्निटिव इवैल्यूएशन फिर परसेप्शन कंट्रोल पर असर डालते हैं, जिसका मतलब है कि यूज़र को किस हद तक लगता है कि वे सिस्टम के साथ इंटरैक्शन को गाइड, एडजस्ट या मैनेज कर सकते हैं। परसेप्शन कंट्रोल फिर भरोसा मज़बूत करता है, और भरोसा खरीदने का इरादा बढ़ाता है।
एक रिकमेंडेशन सिस्टम जानकारी बता सकता है, लेकिन अगर यूज़र उस जानकारी को समझ नहीं पाते हैं या अपनी पसंद को मैनेज करने के लिए उसका इस्तेमाल नहीं कर पाते हैं, तो ट्रांसपेरेंसी उम्मीद के मुताबिक भरोसा नहीं दिला सकती है। स्टडी से पता चलता है कि यूज़र को सिर्फ़ विज़िबिलिटी से ज़्यादा की ज़रूरत है। उन्हें क्लैरिटी, फेयरनेस और एजेंसी की ज़रूरत है।
रिसर्च में AI लिटरेसी को भी इस मुद्दे के सेंटर में रखा गया है। यूज़र्स AI एक्सप्लेनेशन को एक ही तरह से नहीं समझते हैं। जो लोग AI सिस्टम को बेहतर समझते हैं, वे ट्रांसपेरेंसी क्यूज़ को समझने और उन क्यूज़ को एल्गोरिदमिक समझ और फेयरनेस असेसमेंट में बदलने में ज़्यादा काबिल होते हैं। कम AI लिटरेसी वाले यूज़र्स को वही एक्सप्लेनेशन मिल सकता है, लेकिन उन्हें इससे कम वैल्यू मिलती है।
स्टडी के सैंपल में ऑनलाइन रिक्रूट किए गए डिजिटली एक्टिव यूज़र्स शामिल थे, जिनमें इन्फॉर्मेशन टेक्नोलॉजी, बिज़नेस और मार्केटिंग, डिजिटल सर्विसेज़ और ई-कॉमर्स जैसे फील्ड्स के साथ-साथ दूसरे प्रोफेशनल बैकग्राउंड से जवाब देने वाले लोग शामिल थे। नकली खरीदारी के सिनेरियो के बजाय असली यूज़र एक्सपीरियंस के इस्तेमाल से, स्टडी में यह जांचने की इजाज़त मिली कि लोग प्रैक्टिकल डिजिटल कॉमर्स कॉन्टेक्स्ट में रिकमेंडेशन सिस्टम को कैसे देखते हैं।
नतीजे इसलिए मायने रखते हैं क्योंकि AI-बेस्ड रिकमेंडेशन अब कई कंज्यूमर जर्नी में शामिल हो गए हैं। ऑनलाइन मार्केटप्लेस, स्ट्रीमिंग प्लेटफॉर्म, ट्रैवल साइट्स, फैशन रिटेलर्स, ग्रोसरी सर्विसेज़ और डिजिटल एडवरटाइजिंग सिस्टम सभी चॉइस को शेप देने के लिए AI का इस्तेमाल करते हैं। जैसे-जैसे रिकमेंडेशन ज़्यादा पर्सनलाइज़्ड और ज़्यादा असरदार होते जा रहे हैं, कंज्यूमर्स से उन सिस्टम पर भरोसा करने के लिए कहा जा रहा है जिन्हें वे शायद पूरी तरह से नहीं समझते हैं।
यह भरोसा एक लेयर्ड प्रोसेस से बनता है। खरीदारों को सबसे पहले सिस्टम का लॉजिक इतना समझना होगा कि वे उसके सुझावों को समझ सकें। उन्हें यकीन होना चाहिए कि सिस्टम उनके साथ सही बर्ताव करता है और उन्हें मैनिपुलेट या गुमराह नहीं करता है। उन्हें यह भी महसूस होना चाहिए कि वे आउटपुट पर असर डाल सकते हैं, पसंद को बेहतर बना सकते हैं, गैर-ज़रूरी सुझावों को रिजेक्ट कर सकते हैं या भविष्य के सुझावों को गाइड कर सकते हैं। तभी ट्रांसपेरेंसी भरोसे और खरीदने के व्यवहार का एक मतलब वाला ड्राइवर बनती है।
समझ, फेयरनेस और कंट्रोल ट्रांसपेरेंसी को भरोसे में बदलते हैं
AI ट्रांसपेरेंसी का एल्गोरिदम की समझ और फेयरनेस की समझ पर बहुत अच्छा असर पड़ा। जिन यूज़र्स को रिकमेंडेशन सिस्टम ज़्यादा ट्रांसपेरेंट लगे, उनके यह कहने की ज़्यादा संभावना थी कि वे समझते हैं कि वे सिस्टम कैसे काम करते हैं और उनके रिकमेंडेशन को सही और फेयर मानने की ज़्यादा संभावना थी।
ट्रांसपेरेंसी का महसूस किए जाने वाले कंट्रोल पर भी सीधा पॉजिटिव असर पड़ा। जब यूज़र्स को लगा कि सिस्टम बताता है कि रिकमेंडेशन कैसे बनाई जाती हैं, तो उनके इंटरैक्शन को मैनेज करने में सक्षम महसूस करने की ज़्यादा संभावना थी। इससे पता चलता है कि एक्सप्लेनेशन सिर्फ़ जानकारी के बारे में नहीं है। यह यह भी बदल सकता है कि एजेंसी यूज़र्स शॉपिंग प्रोसेस के दौरान कैसा महसूस करते हैं।
एल्गोरिदम की समझ और फेयरनेस की समझ ने भी महसूस किए जाने वाले कंट्रोल को काफी बढ़ा दिया। इसका मतलब है कि जो यूज़र्स रिकमेंडेशन लॉजिक को समझते हैं और मानते हैं कि सिस्टम फेयर है, उनके यह महसूस करने की ज़्यादा संभावना थी कि वे इंटरैक्शन को प्रभावित कर सकते हैं। ई-कॉमर्स में असर की यह भावना ज़रूरी है क्योंकि नहीं तो रिकमेंडेशन सिस्टम साफ़ नहीं, ऑटोमैटिक और उन पर सवाल उठाना मुश्किल लग सकता है।
माना गया कंट्रोल भरोसे के सबसे मज़बूत कारणों में से एक बनकर उभरा। जिन यूज़र्स को लगा कि वे सिस्टम को मैनेज या गाइड कर सकते हैं, उनके इस पर भरोसा करने की संभावना ज़्यादा थी। स्टडी में पाया गया कि भरोसा सिर्फ़ इस बात पर रिएक्शन नहीं था कि रिकमेंडेशन काम की लग रही हैं या नहीं। यह इस बात से बनता था कि यूज़र्स रिकमेंडेशन प्रोसेस में सही तरीके से हिस्सा ले पा रहे हैं या नहीं।
बदले में, भरोसे का खरीदने के इरादे पर बड़ा असर पड़ा। जो यूज़र्स AI-बेस्ड रिकमेंडेशन सिस्टम पर भरोसा करते थे, वे रिकमेंडेड प्रोडक्ट्स पर विचार करने, ऑनलाइन प्रोडक्ट्स चुनते समय सिस्टम पर भरोसा करने और भविष्य में खरीदने के फ़ैसलों में सुझावों को मानने के लिए ज़्यादा तैयार थे। यह ई-कॉमर्स में भरोसे की मुख्य भूमिका को कन्फर्म करता है, साथ ही यह भी दिखाता है कि AI सेटिंग्स में भरोसा कॉग्निटिव और कंट्रोल से जुड़े मैकेनिज़्म पर बहुत ज़्यादा निर्भर करता है।
मॉडल ने यूज़र के भरोसे और खरीदने के इरादे में बदलाव का एक बड़ा हिस्सा समझाया। खरीदने का इरादा भरोसे से अच्छी तरह समझाया गया, जबकि भरोसे को महसूस किए गए कंट्रोल और ट्रांसपेरेंसी से समझाया गया। महसूस किए गए कंट्रोल को ट्रांसपेरेंसी, एल्गोरिदम की समझ और फेयरनेस की समझ से समझाया गया। यह लेयर्ड स्ट्रक्चर स्टडी के इस तर्क को सपोर्ट करता है कि AI पर कंज्यूमर के रिस्पॉन्स सिर्फ ट्रांसपेरेंसी से नहीं, बल्कि यूज़र इवैल्यूएशन के एक सीक्वेंस से शुरू होते हैं।
नतीजे यह भी दिखाते हैं कि ट्रांसपेरेंसी से भरोसे तक का सीधा रास्ता ज़रूरी बना हुआ है, लेकिन पूरे इनडायरेक्ट प्रोसेस से कमज़ोर है। इसका मतलब है कि ट्रांसपेरेंसी सीधे भरोसे पर असर डाल सकती है, लेकिन इसका ज़्यादातर असर यूज़र की समझ, फेयरनेस की समझ और कंट्रोल के ज़रिए होता है। बिज़नेस के लिए, इसका मतलब है कि ट्रांसपेरेंसी को कम्प्लायंस चेकबॉक्स के तौर पर नहीं, बल्कि यूज़र-एक्सपीरियंस स्ट्रैटेजी के तौर पर डिज़ाइन किया जाना चाहिए।
AI लिटरेसी की मॉडरेटिंग भूमिका एक और ज़रूरी लेयर जोड़ती है। AI लिटरेसी ने ट्रांसपेरेंसी और एल्गोरिदम की समझ के साथ-साथ ट्रांसपेरेंसी और फेयरनेस की समझ के बीच के रिश्ते को मज़बूत किया। असल में, ज़्यादा मज़बूत AI नॉलेज वाले यूज़र सिस्टम एक्सप्लेनेशन को काम के कॉग्निटिव इवैल्यूएशन में बेहतर तरीके से ट्रांसलेट कर पाए।
एक ही ट्रांसपेरेंसी फ़ॉर्मेट सभी यूज़र के लिए एक जैसा काम नहीं कर सकता है। कुछ खरीदार आसान, आसान भाषा में एक्सप्लेनेशन पसंद कर सकते हैं जो यह साफ़ करें कि किसी प्रोडक्ट को रिकमेंड क्यों किया गया था। दूसरे लोग मॉडल द्वारा इस्तेमाल किए गए सिग्नल के बारे में ज़्यादा डिटेल्ड जानकारी चाहते हैं, जैसे ब्राउज़िंग हिस्ट्री, प्रोडक्ट एट्रिब्यूट, खरीदने के पैटर्न या दूसरे यूज़र्स से समानता। इसलिए, अडैप्टिव एक्सप्लेनेशन डिज़ाइन ज़रूरी हो सकता है।
स्टडी रिकमेंडेशन सिस्टम के लिए ज़रूरी ट्रांसपेरेंसी के कई तरीकों की पहचान करती है। रेशनेल-बेस्ड एक्सप्लेनेशन यूज़र्स को बताते हैं कि कोई रिकमेंडेशन क्यों की गई थी। फ़ीचर-बेस्ड एक्सप्लेनेशन यह पहचानते हैं कि किन एट्रिब्यूट या व्यवहार ने रिकमेंडेशन को प्रभावित किया। डेटा-बेस्ड एक्सप्लेनेशन दिखाते हैं कि यूज़र डेटा का इस्तेमाल कैसे किया जाता है। सोशल-बेस्ड एक्सप्लेनेशन रिकमेंडेशन को मिलते-जुलते यूज़र्स के बीच पैटर्न से जोड़ते हैं। जबकि स्टडी ट्रांसपेरेंसी को यूज़र की पूरी सोच के तौर पर देखती है, यह मानती है कि अलग-अलग तरह के एक्सप्लेनेशन यूज़र्स पर अलग-अलग तरीकों से असर डाल सकते हैं।
नतीजे उन कंपनियों को भी चुनौती देते हैं जो मानती हैं कि ज़्यादा जानकारी से हमेशा भरोसा बढ़ता है। बहुत ज़्यादा मुश्किल एक्सप्लेनेशन कॉग्निटिव बोझ बढ़ा सकते हैं, खासकर उन यूज़र्स के लिए जिनकी AI लिटरेसी कम है। ट्रांसपेरेंसी सबसे अच्छा तब काम करती है जब वह समझने लायक, काम की हो और यूज़र कंट्रोल से जुड़ी हो। एक लंबा टेक्निकल एक्सप्लेनेशन एक छोटे, मतलब वाले एक्सप्लेनेशन से कम असरदार हो सकता है जो यूज़र्स को अपनी पसंद एडजस्ट करने या सिस्टम को ठीक करने देता है।
फेयरनेस परसेप्शन एक और ज़रूरी एलिमेंट है। यूज़र्स किसी रिकमेंडर सिस्टम पर तब ज़्यादा भरोसा करते हैं जब उन्हें लगता है कि उसके सुझाव बिना किसी भेदभाव के, एक जैसे और उनके इंटरेस्ट के हिसाब से हैं। यह खास तौर पर इसलिए ज़रूरी है क्योंकि कंज्यूमर्स को यह चिंता हो सकती है कि रिकमेंडेशन यूज़र के फायदे के बजाय प्लेटफॉर्म इंसेंटिव, एडवरटाइजिंग रिलेशनशिप या कमर्शियल प्रायोरिटी से प्रेरित हैं। अगर शॉपर्स को शक है कि रिकमेंडेशन गलत या मैनिपुलेटिव हैं, तो ट्रांसपेरेंसी भरोसे में नहीं बदल सकती है।
परसेप्शनल कंट्रोल वह जगह है जहाँ स्टडी का मॉडल खास तौर पर प्रैक्टिकल हो जाता है। कंट्रोल को इंटरफ़ेस फीचर्स के ज़रिए सपोर्ट किया जा सकता है जो यूज़र्स को रिकमेंडेशन को बेहतर बनाने, प्रेफरेंस बदलने, गैर-ज़रूरी सुझावों को हटाने, यह पूछने कि कोई आइटम क्यों रिकमेंड किया गया था या चुने हुए आइटम जैसे और प्रोडक्ट्स का रिक्वेस्ट करने देते हैं। ये डिज़ाइन चॉइस यूज़र को AI सुझावों के पैसिव रिसीवर से डिसीजन प्रोसेस में एक्टिव पार्टिसिपेंट में बदल देते हैं।
Next Story