AI बदल सकता है वित्तीय संकटों के पैटर्न, ECB अध्ययन में खुलासा
ECB अध्ययन
आर्टिफिशियल इंटेलिजेंस तेज़ी से मॉडर्न फाइनेंस का हिस्सा बनता जा रहा है, हेज फंड और ट्रेडिंग फर्म से लेकर आम इन्वेस्टर द्वारा इस्तेमाल किए जाने वाले रिटेल इन्वेस्टमेंट ऐप तक। लेकिन यूरोपियन सेंट्रल बैंक, स्टैनफोर्ड यूनिवर्सिटी, ड्यूश बुंडेसबैंक, स्टैनफोर्ड HAI, सेंटर फॉर इकोनॉमिक पॉलिसी रिसर्च और यूनिवर्सिटी ऑफ़ नेपल्स फेडेरिको II के रिसर्चर की एक नई स्टडी में चेतावनी दी गई है कि AI फाइनेंशियल स्टेबिलिटी के लिए नए खतरे भी पैदा कर सकता है।
स्टडी यह जांचती है कि फाइनेंशियल स्ट्रेस के समय AI सिस्टम कैसे काम करते हैं। रिसर्चर का तर्क है कि मार्केट की भविष्य की स्टेबिलिटी न केवल इकोनॉमिक कंडीशन पर निर्भर कर सकती है, बल्कि इन्वेस्टमेंट के फैसले लेने वाले खास तरह के AI पर भी निर्भर कर सकती है।
उनका मुख्य नतीजा आसान लेकिन चौंकाने वाला है: अलग-अलग AI सिस्टम फाइनेंशियल अनिश्चितता पर बिल्कुल अलग-अलग तरीकों से रिएक्ट करते हैं, और कुछ असल में पैनिक से होने वाले मार्केट बिहेवियर का रिस्क बढ़ा सकते हैं।
दो तरह के AI, दो बहुत अलग बिहेवियर
रिसर्चर ने एक सिम्युलेटेड फाइनेंशियल मार्केट में दो मुख्य तरह के AI इन्वेस्टर को टेस्ट किया।
पहला टाइप Q-लर्निंग एल्गोरिदम था, जो रीइन्फोर्समेंट लर्निंग का एक रूप है जो पहले से ही एल्गोरिदमिक ट्रेडिंग में बड़े पैमाने पर इस्तेमाल किया जाता है। ये सिस्टम ट्रायल और एरर से सीखते हैं, और समय के साथ रिवॉर्ड और लॉस के आधार पर अपने बिहेवियर को एडजस्ट करते हैं।
दूसरा टाइप बड़े लैंग्वेज मॉडल, या LLMs थे, जो आज के एडवांस्ड चैटबॉट और रीज़निंग टूल्स को पावर देने वाले AI सिस्टम जैसे थे। Q-लर्निंग सिस्टम के उलट, LLMs बार-बार के एक्सपीरियंस से धीरे-धीरे नहीं सीखते। इसके बजाय, वे सिचुएशन को एनालाइज़ करते हैं और रीज़निंग और कॉन्टेक्स्ट का इस्तेमाल करके फैसले लेते हैं।
रिसर्चर्स ने दोनों AI सिस्टम को एक क्लासिक "म्यूचुअल फंड रिडेम्पशन" मॉडल के अंदर रखा। इस सेटअप में, इन्वेस्टर्स को यह तय करना होता है कि वे अपना पैसा इन्वेस्टेड रखें या जल्दी निकाल लें। उनके फैसले न केवल इकोनॉमिक फंडामेंटल्स पर निर्भर करते हैं, बल्कि इस पर भी निर्भर करते हैं कि उन्हें क्या लगता है कि दूसरे इन्वेस्टर्स क्या करेंगे।
यह फ्रेमवर्क बैंक रन, मार्केट पैनिक और यहां तक कि मॉडर्न स्टेबलकॉइन कोलैप्स के पीछे के लॉजिक को दिखाता है।
कुछ AI सिस्टम बहुत ज़्यादा डरपोक क्यों हो जाते हैं
एक्सपेरिमेंट्स से पता चला कि Q-लर्निंग सिस्टम पैनिक बिहेवियर के प्रति खास तौर पर कमज़ोर थे।
जब इकोनॉमी कमजोर दिखी, तो AI इन्वेस्टर्स ने अपना पैसा रिडीम कर लिया, जो स्टैंडर्ड इकोनॉमिक थ्योरी से मेल खाता था। लेकिन एक बार जब डिफ़ॉल्ट रिस्क आया, तो एल्गोरिदम ने बुरे एक्सपीरियंस पर ओवररिएक्ट करना शुरू कर दिया।
कभी-कभार होने वाले नुकसान भी सिस्टम को बहुत ज़्यादा सावधानी बरतने पर मजबूर कर देते थे। समय के साथ, उन्होंने इन्वेस्टमेंट को बहुत बार रिडीम करना सीख लिया, तब भी जब अंदरूनी आर्थिक हालात ठीक थे।
रिसर्चर इसे "हॉट स्टोव इफ़ेक्ट" बताते हैं। जैसे कोई एक बार जलने के बाद किसी भी स्टोव को छूने से बचता है, वैसे ही नुकसान होने के बाद एल्गोरिदम बहुत ज़्यादा डर गए। क्योंकि उन्होंने लंबे समय के उम्मीद किए गए रिटर्न के बजाय असल नतीजों पर ज़्यादा ध्यान दिया, इसलिए अलग-अलग बुरी घटनाओं का भविष्य के फैसलों पर लंबे समय तक असर पड़ा।
इससे एक खतरनाक फ़ीडबैक लूप बन गया। जैसे-जैसे ज़्यादा AI इन्वेस्टर ने जल्दी रिडीम किया, दूसरों के लिए इन्वेस्टेड रहना कम आकर्षक हो गया, जिससे और भी ज़्यादा विड्रॉल और ज़्यादा अस्थिरता हुई।
बड़े लैंग्वेज मॉडल पैनिक से बचते हैं लेकिन एक और प्रॉब्लम खड़ी कर देते हैं
बड़े लैंग्वेज मॉडल अलग तरह से काम करते हैं। क्योंकि वे बार-बार सज़ा से सीखने के बजाय उम्मीद के मुताबिक नतीजों के बारे में सोचते हैं, इसलिए उन पर डिफ़ॉल्ट रिस्क का असर बहुत कम होता है।
हालांकि, LLMs को कोऑर्डिनेशन में दिक्कत होती है।
जब मार्केट की स्थिति में कई संभावित नतीजों की गुंजाइश होती है, तो AI इन्वेस्टर्स ने दूसरे इन्वेस्टर्स के बारे में अलग-अलग सोच बनाई। कुछ ने शांत व्यवहार की उम्मीद की और इन्वेस्टेड रहे। दूसरों ने पैनिक का अंदाज़ा लगाया और जल्दी ही पैसे निकाल लिए।
इस वजह से, मार्केट का अंदाज़ा लगाना कम हो गया।
स्टडी की सबसे नई खासियतों में से एक LLMs की अंदरूनी रीज़निंग का एनालिसिस था। रिसर्चर्स ने AI सिस्टम से बनी चेन-ऑफ़-थॉट एक्सप्लेनेशन की जांच की और पाया कि मॉडल्स सिर्फ़ याद किए गए जवाबों को दोहराने के बजाय असल में प्रॉब्लम पर रीज़निंग कर रहे थे।
कुछ ने पेऑफ़ की तुलना पर ध्यान दिया, दूसरों ने सबसे बुरे हालात की सोच पर भरोसा किया, जबकि कुछ ने फॉर्मल स्ट्रेटेजिक रीज़निंग का इस्तेमाल किया। रीज़निंग में अंतर के कारण अलग-अलग फैसले लिए गए, तब भी जब AI सिस्टम को एक ही जानकारी मिली थी।
AI के दौर में रेगुलेटर्स को नए नियमों की ज़रूरत पड़ सकती है
रिसर्चर्स का कहना है कि इन नतीजों का रेगुलेटर्स और पॉलिसी बनाने वालों पर बड़ा असर पड़ेगा।
अभी का फाइनेंशियल सुपरविज़न मुख्य रूप से इंस्टीट्यूशन्स और मार्केट प्रोडक्ट्स पर फोकस करता है, न कि उनके अंदर काम करने वाले AI सिस्टम्स के आर्किटेक्चर पर। लेकिन स्टडी बताती है कि AI डिज़ाइन खुद ही सिस्टमिक रिस्क का सोर्स बन सकता है।
लेखक रेगुलेटर्स से फाइनेंशियल मार्केट्स में इस्तेमाल हो रहे AI के टाइप्स के बारे में और जानकारी इकट्ठा करने और मशीन से चलने वाले बिहेवियर को हाई स्पीड पर संभालने में सक्षम सेफगार्ड्स डेवलप करने की अपील करते हैं।
वे "वाइब इन्वेस्टिंग" के बढ़ने के बारे में भी चेतावनी देते हैं, जहाँ रिटेल इन्वेस्टर्स यह समझे बिना AI टूल्स पर भरोसा करते हैं कि वे सिस्टम्स कैसे फैसले लेते हैं।
आखिर में, स्टडी इस सोच को चुनौती देती है कि आर्टिफिशियल इंटेलिजेंस अपने आप फाइनेंशियल मार्केट्स को ज़्यादा रैशनल और स्टेबल बना देगा। कुछ AI सिस्टम्स बहुत आसानी से पैनिक हो सकते हैं, जबकि दूसरे पूरी तरह से कोऑर्डिनेट करने में फेल हो सकते हैं।
जैसे-जैसे AI ग्लोबल फाइनेंस में और गहराई से शामिल होता जाएगा, यह समझना कि मशीनें कैसे सोचती हैं, उतना ही ज़रूरी हो सकता है जितना कि खुद मार्केट्स को समझना।