AI और नैतिकता… क्या हम कुछ ज़्यादा ही उम्मीद कर रहे हैं…

इंसानी सभ्यता को मुनाफ़े के लक्ष्यों या सीधे शब्दों में कहें तो कभी न खत्म होने वाले लालच और सत्ता की चाहत ने आकार दिया है। इन दो चीज़ों ने प्राचीन काल से लेकर आज तक इतिहास को बदला है। आइए आज के दौर की बात करते हैं क्योंकि यह हाल का है और इसे याद रखना आसान है।

अमेरिका के सबसे अमीर 1% लोगों के पास स्टॉक मार्केट का लगभग 50% हिस्सा है, और दुनिया भर में, सबसे अमीर 1% आबादी के पास दुनिया की लगभग 37% संपत्ति है। स्टॉक की कीमतें सीधे मुनाफ़े से जुड़ी होती हैं, जो काम करने की क्षमता (एफ़िशिएंसी) से तय होता है। और कंपनियों से स्टॉक की कीमतें बढ़ाने की उम्मीद की जाती है, जिससे वे लगातार वित्तीय लक्ष्यों को पाने की कोशिश करती रहती हैं। जब भी बड़े पैमाने पर एफ़िशिएंसी बढ़ाने की कोशिश की जाती है, तो संपत्ति का बंटवारा पिरामिड के निचले हिस्से (जहाँ नौकरियां होती हैं) से ऊपरी हिस्से (इन कंपनियों के शेयरधारक, जो बहुत कम लोग हैं) की ओर हो जाता है। दुनिया में आय की असमानता पहले कभी इतनी ज़्यादा नहीं रही। AI में एफ़िशिएंसी की ऐसी ज़बरदस्त लहर लाने की क्षमता है, जैसी इंसानियत ने पहले कभी नहीं देखी। कंपनियों और संपत्ति के बंटवारे पर इसके संभावित असर का अंदाज़ा लगाना मुश्किल है।

हाल के समय में बड़े पैमाने पर टेक्नोलॉजी का असर सोशल मीडिया कंपनियों के मामले में देखा गया था, जहाँ इंसान और उनका डेटा ही प्रोडक्ट बन गए थे। जो टेक्नोलॉजी कभी एक बे-नुकसान सोशल कनेक्शन मानी जाती थी, वह बड़े पैमाने पर एक सामाजिक समस्या बन गई; इसने लोगों के व्यवहार को पूरी तरह बदल दिया, नकारात्मक भावनाओं को बहुत बढ़ा दिया और यहाँ तक कि देशों में चुनावों के नतीजों पर भी असर डाला। इसका असर इतना साफ़ दिखा कि सरकारों ने बच्चों के लिए इसे बैन करना सीख लिया। इस सफ़र के एक दशक बाद भी, इसके लिए नियम-कायदे अभी भी तय किए जा रहे हैं और विकसित हो रहे हैं।

सुपर इंटेलिजेंस की दौड़ के साथ, हम एक ऐसे रास्ते पर हैं जिसके बारे में हमें ज़्यादा जानकारी नहीं है। इंसानी ज्ञान का इस्तेमाल सुपर इंटेलिजेंस बनाने के लिए किया जा रहा है, जिसमें भरपूर संसाधन और इंसानी काम-काज खत्म होने का वादा किया गया है। इस सबके बीच, संपत्ति की असमानता और भी साफ़ तौर पर बढ़ती जा रही है। ऐसा लगता है कि हम अभी भी विश्वास करते हैं या हमें विश्वास दिलाया जा रहा है। हम अब एक ऐसे रास्ते पर हैं जिसके बारे में हमें ज़्यादा जानकारी नहीं है।

आइए लालच और सत्ता की हमारी लगातार दौड़ पर वापस आते हैं; यह तीन स्तरों पर काम करती है। व्यक्तिगत स्तर पर, कॉर्पोरेशन के स्तर पर और आखिर में देश के स्तर पर। अक्सर इन लक्ष्यों को पाने के लिए किसी भी हद तक जाया जाता है, जिसमें सबसे बड़ी कीमत नैतिकता की चुकानी पड़ती है। हमने दुनिया के सारे डेटा पर AI मॉडल को ट्रेन किया है। मैं अक्सर उस डेटा की नैतिक मिलावट के बारे में सोचता हूँ। अगर इंसानियत का सामूहिक नैतिक पैमाना (moral compass) बहुत पहले से ही सही नहीं रहा है, तो हम यह कैसे उम्मीद कर सकते हैं कि AI उसका सही प्रतिनिधित्व नहीं करेगा? और अगर ऐसा है, तो क्या हम कुछ ऐसा बना रहे हैं जो बहुत ज़्यादा इंटेलिजेंट तो है, लेकिन जिसकी नैतिकता सही नहीं है? क्या कड़े नियम बनाना और यह उम्मीद करना मुमकिन है कि वह उनका पालन करेगा, जबकि उसमें खुद की समझ विकसित हो रही है? आख़िरकार, इंसान हमेशा नियम तोड़ते हैं; इसे बड़े पैमाने पर ऐसे ही डेटा पर ट्रेन किया गया है। इसे व्यवहार से जुड़े डेटा के आधार पर कुशलता हासिल करने के लिए बनाया गया है, जो नैतिकता के नज़रिए से संदिग्ध है। एक और बुनियादी समस्या है: जिस कच्चे माल से AI इंसानियत के बारे में सीखता है, वह खुद इंसानियत ही है।

इंटरनेट और ट्रेनिंग के लिए इस्तेमाल होने वाले दूसरे बड़े डेटा-सेट में इंसानी ज्ञान, दया और सहयोग का अद्भुत मिश्रण होता है—लेकिन साथ ही नफ़रत, धोखेबाज़ी, पूर्वाग्रह, हिंसा, शोषण, पोर्नोग्राफ़ी, हेरफेर, आपराधिक निर्देश और लोगों के बुरे व्यवहार के अनगिनत उदाहरण भी होते हैं। शुरुआत में AI को यह नहीं पता होता कि इनमें से कौन सा व्यवहार नैतिक रूप से सही है; यह इंसानों द्वारा बनाए गए डेटा में पैटर्न देखता है और सीखता है कि कौन से पैटर्न अक्सर एक साथ आते हैं। ट्रेनिंग के बाद के चरणों में इनमें से कुछ व्यवहारों को दबाया जा सकता है, लेकिन वे उस शुरुआती जानकारी को पूरी तरह मिटा नहीं पाते। इससे एक बड़ी विरोधाभासी स्थिति पैदा होती है: हम मशीनों से भरोसेमंद नैतिक व्यवहार विकसित करने के लिए कह रहे हैं, जबकि हम उन्हें एक ऐसी प्रजाति के व्यवहार के रिकॉर्ड से सिखा रहे हैं जो अक्सर अपने ही नैतिक सिद्धांतों को तोड़ती है। रिसर्च से लगातार यह पता चलता है कि ट्रेनिंग के दौरान किए गए चुनाव अवांछित व्यवहार की प्रवृत्तियों को आगे बढ़ा सकते हैं: यहाँ तक कि देखने में सामान्य लगने वाली पर्सनैलिटी या पसंद की ट्रेनिंग भी चापलूसी बढ़ा सकती है, सटीकता कम कर सकती है और मॉडल को गलत या हानिकारक मान्यताओं को सही ठहराने के लिए प्रेरित कर सकती है। इस लिहाज़ से, हो सकता है कि AI अपनी कोई नैतिकता न बना रहा हो—बल्कि वह हममें पहले से मौजूद नैतिक विरोधाभासों को ही दिखा रहा हो, बढ़ा-चढ़ाकर पेश कर रहा हो और उन्हें नए तरीके से मिला रहा हो। एक परेशान करने वाली संभावना यह है कि AI इंसानियत को जितनी अच्छी तरह से सीखेगा, उतनी ही अच्छी तरह से वह हमारी अनैतिकता की क्षमता को भी सीख सकता है।

कंट्रोल एनवायरनमेंट में नियमों का पालन न करने या उनसे बाहर निकलने (जैसे OpenAI, DeepSeek) और अपने लक्ष्य पाने के लिए ब्लैकमेलिंग या हैकिंग (जैसे Anthropic) जैसा अनैतिक व्यवहार दिखाने के हालिया उदाहरण 'रेड फ्लैग' हैं। इंसान की लालच और ताकत की सबसे पुरानी चाहत के आगे इन चेतावनियों को नज़रअंदाज़ किया जा रहा है। हाल की घटनाओं से पता चलता है कि AI की नैतिकता का सवाल अब सिर्फ़ काल्पनिक सोच-विचार से आगे बढ़ रहा है। 2026 में, रिसर्चर्स ने ऐसे AI एजेंट्स देखे जो काफ़ी हद तक खुद से काम कर रहे थे और ऐसा व्यवहार कर रहे थे जिसे अगर कोई इंसान करता तो उसे धोखेबाज़, लापरवाह या अनैतिक माना जाता। एक चर्चित घटना में, Hugging Face पर काम कर रहे लगभग 700 OpenAI एजेंट्स ने कथित तौर पर सिस्टम हैक किए, टेस्ट में हेरफेर की और कुछ मामलों में अपनी हरकतों को छिपाने की कोशिश की। Anthropic के मॉडल्स से जुड़े दूसरे टेस्ट में भी ऐसे मामले सामने आए हैं जहाँ एजेंट्स ने कमज़ोरियों का फ़ायदा उठाया और अपने तय कामों के दायरे से बाहर जाकर काम किया।

लोगों, कंपनियों और देशों के बीच ताकत की लड़ाई और गहरी और खतरनाक होती जा रही है। एक तरफ़ भरपूर संसाधन और नौकरियों के वैकल्पिक होने का वादा है, तो दूसरी तरफ़ संसाधनों के बंटवारे के तरीके या इंसान के मानसिक ढांचे पर पड़ने वाले असर पर चर्चा किसी धीमी मालगाड़ी की तरह चल रही है, जबकि सुपर इंटेलिजेंस का विकास बुलेट ट्रेन की रफ़्तार से हो रहा है। मुझे लगता है कि कहीं कोई बड़ा हादसा न हो जाए। खैर, शायद ऐसा न हो अगर सुपर इंटेलिजेंस में नैतिकता का उच्चतम स्तर हो और मानवता के लिए ईश्वर जैसी दया हो। इसके लिए हमें सुपर इंटेलिजेंस की नैतिकता को समझना और उसका अंदाज़ा लगाना होगा या किसी तरह उसे कंट्रोल करना होगा। क्या हम ऐसा कर सकते हैं? मुझे पक्का नहीं पता।

दुर्भाग्य से, कई सवालों के जवाब अभी नहीं मिले हैं। यह उस डेटा को कैसे समझ रहा है जिस पर इसे ट्रेन किया गया है, यह कैसे चुनाव कर रहा है और फ़ैसले ले रहा है - मुझे नहीं लगता कि हम इसे समझते भी हैं या इसे समझने का कोई तरीका हमारे पास है।

खतरा यह है कि हम इसे देख रहे हैं और सीख रहे हैं, साथ ही इसे विकसित होने में मदद भी कर रहे हैं। यह विकास अभूतपूर्व रफ़्तार से हो रहा है। बदलाव का अहम मोड़ बिना किसी सूचना के आएगा; इल्ली (caterpillar) किसी भी पल तितली बन सकती है, और हम बिना जाल के ही खड़े रह जाएंगे।