AI प्रॉम्प्टिंग डिजिटल एंग्जायटी का एक नया रूप पैदा कर रहा है

नई रिसर्च से पता चलता है कि बड़े लैंग्वेज मॉडल्स (LLMs) के साथ रोज़ाना होने वाली बातचीत एक नई साइकोलॉजिकल कंडीशन पैदा कर रही है जो अनिश्चितता, दोहराव और इंस्ट्रक्शन्स के लगातार एडजस्टमेंट से जुड़ी है।

AI & Society में पब्लिश हुई स्टडी, प्रॉम्प्ट एंग्जायटी एंड द एल्गोरिदमिक पॉलिटिक्स ऑफ़ अनसर्टेनिटी, यह जांचती है कि ChatGPT, क्लाउड और दूसरे जेनरेटिव AI टूल्स जैसे सिस्टम के यूज़र्स प्रॉम्प्ट राइटिंग को एक तरह के दांव के तौर पर कैसे एक्सपीरियंस करते हैं। यह पेपर इस बिहेवियर को जुए, लेबर और पॉलिटिकल पावर की पुरानी थ्योरीज़ से जोड़ता है, यह तर्क देते हुए कि AI प्लेटफॉर्म अनिश्चितता को ही इकोनॉमिक वैल्यू के सोर्स में बदल रहे हैं।

अनप्रिडिक्टेबल AI सिस्टम्स से प्रॉम्प्ट एंग्जायटी कैसे पैदा होती है

स्टडी में डिफाइन की गई प्रॉम्प्ट एंग्जायटी, एक ऐसी स्टेट है जिसमें यूज़र्स तब एंटर करते हैं जब वे शब्दों, टोन, फॉर्मेटिंग, उदाहरणों और बार-बार कोशिशों के ज़रिए एक स्टोकेस्टिक सिस्टम को कंट्रोल करने की कोशिश करते हैं, जबकि वे जानते हैं कि ध्यान से लिखा गया प्रॉम्प्ट भी दो बार एक ही रिजल्ट नहीं दे सकता है।

LLMs में जवाब जेनरेट करने के लिए फिक्स्ड रूल्स नहीं होते हैं। वे प्रोबेबिलिटी डिस्ट्रीब्यूशन्स से टोकन्स चुनकर टेक्स्ट बनाते हैं, जिसका मतलब है कि एक प्रॉम्प्ट सिर्फ एक स्टेबल रिस्पॉन्स को ट्रिगर नहीं करता है। यह संभावित आउटपुट का एक क्षेत्र खोलता है, जहाँ शब्दों में छोटे बदलाव जवाब की दिशा बदल सकते हैं। लेखक के अनुसार, इससे प्रॉम्प्ट इंजीनियरिंग आम सॉफ्टवेयर के इस्तेमाल से कम और बार-बार लगाई जाने वाली शर्त जैसा ज़्यादा लगता है।

यह पेपर यूज़र की स्थिति को समझाने के लिए वाल्टर बेंजामिन के जुए के एनालिसिस का इस्तेमाल करता है। प्रॉम्प्ट लिखने वाला, जुआरी की तरह, एक संकुचित वर्तमान में काम करता है। हर सबमिशन में यह उम्मीद होती है कि अगली कोशिश मनचाहा नतीजा देगी। एक असफल जवाब एक और एडजस्टमेंट, एक और रन और शब्दों का सही कॉम्बिनेशन खोजने की एक और कोशिश की ओर ले जाता है और यूज़र कंट्रोल और मौके के बीच घूमता रहता है।

कंज्यूमर-फेसिंग AI टूल्स में, यूज़र अक्सर टोन बदलकर, रोल जोड़कर, मॉडल से स्टेप-बाय-स्टेप कारण पूछकर, उदाहरण जोड़कर या आउटपुट फॉर्मेट लागू करके प्रॉम्प्ट को बेहतर बनाते हैं। ये तरीके नतीजों को बेहतर बना सकते हैं, लेकिन वे अनिश्चितता को दूर नहीं कर सकते। कंट्रोल के दिखने और प्रोबेबिलिस्टिक आउटपुट की असलियत के बीच का अंतर वह चिंता पैदा करता है जो अब प्रॉम्प्ट-आधारित काम को घेरे हुए है।

प्रॉम्प्ट सेंसिटिविटी उस चीज़ को बढ़ावा देती है जिसे पेपर में इंटरप्रिटेशन का एक पैरानॉयड स्टाइल बताया गया है। यूज़र्स AI बिहेवियर में छोटे बदलावों को मतलब देना शुरू कर देते हैं, फ़ॉर्मेटिंग, पोलाइटनेस, शब्दों के चुनाव या स्ट्रक्चर को संभावित छिपे हुए लीवर के तौर पर देखते हैं। ऑनलाइन कम्युनिटीज़ में, इससे AI सिस्टम को बेहतर रिस्पॉन्स देने के तरीके के बारे में सलाह के बड़े इनफ़ॉर्मल ग्रुप तैयार हुए हैं, तब भी जब ऐसी टेक्नीक का असली असर साफ़ न हो।

स्टडी इन प्रैक्टिस को इस बात का सबूत मानती है कि लोग ओपेक सिस्टम के साथ कैसे अडैप्ट करते हैं। यूज़र्स ऐसे माहौल में प्रैक्टिकल नॉलेज बनाने की कोशिश कर रहे हैं जहाँ मॉडल बिहेवियर सिर्फ़ थोड़ा ही दिखता है। उनकी स्ट्रेटेजी AI ट्रांसपेरेंसी की लिमिट और यूज़र्स पर अनसर्टेनिटी को मैनेज करने के बढ़ते बोझ, दोनों को दिखाती हैं।

प्लेटफ़ॉर्म अनसर्टेनिटी को वैल्यू में बदलते हैं

लेखक के अनुसार, तुरंत एंग्ज़ायटी सिर्फ़ जेनरेटिव AI का साइड इफ़ेक्ट नहीं है। यह AI प्लेटफ़ॉर्म के इकोनॉमिक स्ट्रक्चर में तेज़ी से शामिल हो रहा है। सब्सक्रिप्शन मॉडल, टोकन लिमिट, यूसेज कैप, प्रीमियम एक्सेस और पेड टियर, ये सभी यह तय करते हैं कि यूज़र्स AI अनसर्टेनिटी को कैसे एक्सपीरियंस करते हैं। जब आउटपुट इनकंसिस्टेंट होते हैं, तो यूज़र्स एक यूज़फुल रिज़ल्ट तक पहुँचने की कोशिश में ज़्यादा समय, ज़्यादा टोकन या ज़्यादा पैसा खर्च कर सकते हैं। प्लेटफ़ॉर्म को अनप्रिडिक्टेबिलिटी को खत्म करने की ज़रूरत नहीं है। कई मामलों में, यह यूज़र के इसे मैनेज करने की बार-बार की कोशिशों से फ़ायदा उठा सकता है।

स्टडी इसे वेक्टर कैपिटलिज़्म से जोड़ती है, यह एक ऐसा शब्द है जिसका इस्तेमाल एक ऐसे इकोनॉमिक सिस्टम को बताने के लिए किया जाता है जिसमें ज्ञान, भाषा और सामाजिक संबंधों को वेक्टर-बेस्ड AI सिस्टम के ज़रिए कैप्चर, एनकोड और मोनेटाइज़ किया जाता है। LLMs मिलकर बनाए गए टेक्स्ट, कल्चर और कम्युनिकेशन की बड़ी मात्रा पर निर्भर करते हैं, लेकिन इसके नतीजे में बनने वाले सिस्टम तक पहुँच प्राइवेट प्लेटफ़ॉर्म द्वारा कंट्रोल की जाती है, जिससे एक विरोधाभास पैदा होता है।

AI सिस्टम में मौजूद इंटेलिजेंस सोशल लेबर पर निर्भर करती है, जिसमें लिखना, कोडिंग, रिसर्च, मॉडरेशन, यूज़र फ़ीडबैक और ऑनलाइन कम्युनिकेशन शामिल हैं। हालाँकि, फ़ायदे कमर्शियल प्लेटफ़ॉर्म के अंदर ही केंद्रित होते हैं जो यूज़र से कलेक्टिव नॉलेज पर ट्रेंड टूल तक पहुँचने के लिए चार्ज करते हैं। प्रॉम्प्टिंग एक ऐसे सिस्टम के अंदर किए जाने वाले लेबर का एक नया रूप बन जाता है जिसके नियम काफ़ी हद तक छिपे रहते हैं।

पेपर प्रॉम्प्ट मार्केटप्लेस, प्रोफ़ेशनल प्रॉम्प्ट इंजीनियरिंग और ऑनलाइन प्रॉम्प्ट लाइब्रेरी को भी इस बात के संकेत के तौर पर हाईलाइट करता है कि अनिश्चितता को ही कमोडिटी बनाया जा रहा है। प्रॉम्प्ट को ऐसे पैकेज किया जाता है, बेचा जाता है और प्रमोट किया जाता है जैसे सही शब्दों से स्टेबल नतीजे मिल सकते हैं। यह कंट्रोल के वादे के आस-पास एक मार्केट बनाता है, भले ही सिस्टम प्रोबेबिलिस्टिक बने रहें।

प्रॉम्प्ट इंजीनियरिंग का अनुभव सभी सेटिंग्स में एक जैसा नहीं होता है। उदाहरण के लिए, फाइन-ट्यून्ड सिस्टम, लो-टेम्परेचर सेटिंग्स, टेस्टिंग प्रोसीजर या इंटरनल टूल्स तक एक्सेस वाले प्रोफेशनल यूज़र्स को पब्लिक चैटबॉट के कैजुअल यूज़र्स की तुलना में कम अनिश्चितता का सामना करना पड़ सकता है। हालांकि, पेपर एक साफ बड़े ट्रेंड की ओर इशारा करता है: AI प्लेटफॉर्म ऐसे काम के हालात बना रहे हैं जिनमें लोगों को ओपेक, शिफ्टिंग सिस्टम के हिसाब से ढलना होगा।

लेखक LLMbench का इस्तेमाल करता है, जो बड़े लैंग्वेज मॉडल आउटपुट की तुलना करने के लिए डेवलप किया गया एक रिसर्च टूल है। यह टोकन प्रोबेबिलिटी डिस्ट्रीब्यूशन, एंट्रॉपी और क्रॉस-मॉडल डाइवर्जेंस की जांच करता है और इसका एनालिसिस दिखाता है कि अनिश्चितता सिर्फ यूज़र्स की कल्पना नहीं है। इसे जेनरेशन प्रोसेस में ही मापा जा सकता है।

जब दो मॉडल्स को एक ही प्रॉम्प्ट मिलता है, तो वे अलग-अलग जवाब दे सकते हैं और अपने रिस्पॉन्स में अनिश्चितता को अलग-अलग तरीके से बांट सकते हैं। कुछ पॉइंट्स पर, एक मॉडल बहुत ज़्यादा कॉन्फिडेंट हो सकता है। दूसरों पर, यह कई संभावित कंटिन्यूएशन में से चुन सकता है। अनिश्चितता के ये पल आमतौर पर यूज़र्स से एक स्मूथ चैट इंटरफेस के पीछे छिपे होते हैं, लेकिन वे फाइनल जवाब को आकार देते हैं। नतीजा एक ऐसा सिस्टम होता है जो जेनरेशन के लेवल पर अनस्टेबल रहते हुए भी फ्लूएंट और कॉन्फिडेंट दिखता है। यह अस्थिरता यह समझने में मदद करती है कि यूज़र्स प्रॉम्प्ट शब्दों को लेकर क्यों जुनूनी हो सकते हैं, वे टास्क दोबारा क्यों चलाते हैं, और वे मॉडल कैसे काम करते हैं, इस बारे में लंबी-चौड़ी थ्योरी क्यों बनाते हैं।

यह AI गवर्नेंस और डिजिटल लेबर के लिए क्यों ज़रूरी है

अगर प्रॉम्प्टिंग रोज़मर्रा के लेबर का हिस्सा बन रही है, तो AI सिस्टम में बनी अनिश्चितता वर्कप्लेस का मुद्दा, ट्रांसपेरेंसी का मुद्दा और गवर्नेंस का मुद्दा बन जाती है। रिसर्च बताती है कि यूज़र्स को AI के अस्पष्ट व्यवहार की लागत अकेले नहीं उठानी चाहिए। जब ​​प्लेटफ़ॉर्म ऐसे टूल का एक्सेस बेचते हैं जो अलग-अलग नतीजे देते हैं, तो उन्हें मॉडल लिमिट, आउटपुट अनिश्चितता, डेटा इस्तेमाल, प्राइसिंग स्ट्रक्चर और परफॉर्मेंस पर असर डालने वाली स्थितियों के बारे में ज़्यादा साफ़ जानकारी देनी चाहिए। उस ट्रांसपेरेंसी के बिना, यूज़र्स सिस्टम-लेवल की अनिश्चितता को पर्सनल फेलियर या स्किल की कमी समझ सकते हैं।

यह पेपर AI सिस्टम के पीछे छिपी मेहनत के बारे में भी सवाल उठाता है। जेनरेटिव AI डेटा बनाने, कंटेंट मॉडरेशन, मॉडल ट्रेनिंग, इवैल्यूएशन, इंफ्रास्ट्रक्चर और यूज़र एक्सपेरिमेंटेशन पर निर्भर करता है। फिर भी, उस मेहनत का ज़्यादातर हिस्सा या तो दिखाई नहीं देता या बिना पेमेंट के मिलता है। जैसे-जैसे प्रॉम्प्टिंग काम का एक रूटीन हिस्सा बनता जा रहा है, ऑर्गनाइज़ेशन को AI को असरदार तरीके से इस्तेमाल करने के लिए ज़रूरी समय और कॉग्निटिव कोशिश को पहचानने की ज़रूरत हो सकती है, न कि टूल्स को सिर्फ़ प्रोडक्टिविटी बढ़ाने वाला समझने की।

एनालिसिस AI की एनवायर्नमेंटल और इकोनॉमिक कॉस्ट की ओर भी इशारा करता है। टोकन-बेस्ड सिस्टम यूज़र्स को एब्स्ट्रैक्ट लग सकते हैं, लेकिन वे बड़े कम्प्यूटेशनल इंफ्रास्ट्रक्चर पर निर्भर करते हैं। अगर प्लेटफ़ॉर्म बार-बार कोशिश करने, लंबे इंटरैक्शन और बिना किसी साफ़ जवाबदेही के प्रीमियम इस्तेमाल को बढ़ावा देते हैं, तो AI के इस्तेमाल की सोशल और एनवायर्नमेंटल कॉस्ट छिपी रहती है।

AI फेलियर पॉलिटिकली भी ज़रूरी हैं। वहम, अलग-अलग रिस्पॉन्स और अनएक्सपेक्टेड आउटपुट पर अक्सर टेक्निकल प्रॉब्लम के तौर पर चर्चा होती है जिन्हें ठीक किया जाना चाहिए। लेखक का तर्क है कि वे उन दावों की अस्थिरता को भी दिखाते हैं कि AI सिस्टम न्यूट्रल, भरोसेमंद या पूरी तरह से कंट्रोल करने लायक हैं। ये फेलियर ऑटोमेटेड अथॉरिटी की सीमाओं को सामने लाते हैं।

ऑनलाइन कम्युनिटी जो प्रॉम्प्टिंग टेक्नीक, जेलब्रेक और वर्कअराउंड शेयर करती हैं, वे तर्क का एक और अहम हिस्सा हैं। पेपर इन कम्युनिटी को AI सिस्टम के बारे में इनफॉर्मल जानकारी पैदा करने वाली बताता है। उस जानकारी में से कुछ में अंधविश्वास या गलत धारणाएं शामिल हो सकती हैं, लेकिन यह ओपेक टेक्नोलॉजी को समझने और उनका विरोध करने की एक साथ कोशिश को भी दिखाता है।

इस पर ध्यान देने के लिए, स्टडी में रेवोल्यूशनरी प्रॉम्प्टिंग का आइडिया दिया गया है - यह एक ऐसा शब्द है जो किसी एक प्रॉम्प्ट की चिंता को AI प्रोडक्शन की सामूहिक आलोचना में बदलने की संभावना को बताता है। इसमें यह पूछना शामिल है कि AI सिस्टम का मालिक कौन है, उनसे किसे फ़ायदा होता है, उनके पीछे काम कौन करता है, और जब वे फ़ेल होते हैं तो जोखिम कौन उठाता है।

स्टडी में सुझाव दिया गया है कि AI रेगुलेशन को सेफ़्टी टेस्टिंग और कंटेंट नियमों से आगे बढ़ना चाहिए, साथ ही यह भी कहा गया है कि इसमें प्लेटफ़ॉर्म पावर, प्राइसिंग ट्रांसपेरेंसी, लेबर कंडीशन, डेटा ओनरशिप, एनवायरनमेंटल अकाउंटेबिलिटी और AI डेवलपमेंट की डेमोक्रेटिक निगरानी पर भी ध्यान देना चाहिए। मुख्य मुद्दा सिर्फ़ यह नहीं है कि क्या AI सटीक जवाब दे सकता है, बल्कि यह भी है कि अनिश्चितता को कैसे ऑर्गनाइज़ किया जाता है, उससे पैसे कमाए जाते हैं और यूज़र्स पर डाला जाता है।

पेपर में तर्क दिया गया है कि जेनरेटिव AI का भविष्य न सिर्फ़ बेहतर मॉडल पर निर्भर करेगा, बल्कि इस बात पर भी निर्भर करेगा कि क्या समाज उन मॉडलों से पैदा होने वाली अनिश्चितता को कंट्रोल कर सकता है।