शिक्षा में जनरेटिव AI छात्रों, स्कूलों और समाज के लिए नए नैतिक जोखिम पैदा करता है

एक नए रिव्यू में चेतावनी दी गई है कि जेनरेटिव AI टूल्स पर्सनलाइज़ेशन, एक्सेस और एफिशिएंसी में मदद कर सकते हैं, लेकिन एजुकेशन में इनके बढ़ते इस्तेमाल से स्टूडेंट एजेंसी, क्रिटिकल थिंकिंग, प्राइवेसी, इक्विटी और एनवायरनमेंट के लिए रिस्क भी हैं।

AI इन एजुकेशन में पब्लिश हुई स्टडी, 'द एथिकल लैंडस्केप ऑफ़ जेनरेटिव AI इन एजुकेशन: ए नैरेटिव लिटरेचर रिव्यू थ्रू द लेंस ऑफ़ कॉन्सिक्वेंसियलिज़्म (2022–2026), एजुकेशन में जेनरेटिव AI पर इंटरनेशनल लिटरेचर को कॉन्सिक्वेंसियलिस्ट एथिकल लेंस से जांचती है। रिव्यू इस बात पर फोकस करता है कि क्या ChatGPT, Gemini, Copilot और Claude जैसे टूल्स के फायदे उनके बड़े नुकसान से ज़्यादा हैं, खासकर जब ये नुकसान कमज़ोर स्टूडेंट्स, पब्लिक इंस्टीट्यूशन्स और नेचुरल एनवायरनमेंट पर एक जैसे नहीं पड़ते।

AI के क्लासरूम बेनिफिट्स के साथ छिपी हुई एथिकल कॉस्ट्स भी आती हैं।

रिव्यू एजुकेशन में genAI के तेज़ी से बढ़ने को 2022 के आखिर में ChatGPT के पब्लिक रिलीज़ के बाद के समय से जोड़ता है, जब स्कूलों, यूनिवर्सिटीज़ और पॉलिसीमेकर्स ने एक ऐसी टेक्नोलॉजी पर रिस्पॉन्ड करना शुरू किया जो एस्से बना सकती थी, प्रॉब्लम्स सॉल्व कर सकती थी, कोड लिख सकती थी और तेज़ी से एकेडमिक रीज़निंग को सिमुलेट कर सकती थी। शुरुआती जवाब अक्सर चीटिंग और असेसमेंट की ईमानदारी पर फोकस करते थे, लेकिन पेपर में पाया गया कि एथिकल बहस तब से बहुत बड़ी चिंताओं में बदल गई है।

GenAI सिर्फ़ एक और एजुकेशनल टेक्नोलॉजी नहीं है। पुराने डिजिटल टूल्स के उलट, यह मुश्किल भाषा बना सकता है, भरोसेमंद जवाब दे सकता है और उन कामों में सीधे दखल दे सकता है जिनमें पहले स्टूडेंट की लगातार कोशिश की ज़रूरत होती थी। लेखक बताते हैं कि यह बदलाव एथिकल दांव को बदल देता है क्योंकि AI सिस्टम अब इस बात पर असर डाल सकते हैं कि स्टूडेंट कैसे सोचते हैं, लिखते हैं, सीखते हैं, बनाते हैं और फैसले लेते हैं।

GenAI प्रैक्टिकल फायदे दे सकता है, जिसमें पर्सनलाइज़्ड सपोर्ट, तेज़ फीडबैक, बेहतर एक्सेसिबिलिटी, क्रिएटिव स्कैफोल्डिंग और एडमिनिस्ट्रेटिव एफिशिएंसी शामिल हैं। जिन स्टूडेंट्स के पास ट्यूशन या सपोर्ट तक कम एक्सेस है, उनके लिए AI टूल्स मुश्किल कॉन्सेप्ट समझाने, प्रैक्टिस मटीरियल बनाने या पार्टिसिपेशन में रुकावटों को कम करने में मदद कर सकते हैं। टीचर प्लानिंग, रिसोर्स तैयार करने और वर्कलोड मैनेज करने के लिए टूल्स का इस्तेमाल कर सकते हैं।

हालांकि, इन फायदों का अकेले असेसमेंट नहीं किया जा सकता। एक कॉन्सिक्वेंशियलिस्ट अप्रोच के लिए उन्हें उन कॉस्ट्स के साथ तौलना ज़रूरी है जो अक्सर कम दिखाई देती हैं, जिसमें AI इंफ्रास्ट्रक्चर का कार्बन और वॉटर फुटप्रिंट, एल्गोरिदमिक बायस, गलत जानकारी, बहुत ज़्यादा डिपेंडेंस, लर्नर एजेंसी का नुकसान, कमज़ोर क्रिटिकल और क्रिएटिव सोच, डेटा सर्विलांस और पब्लिक एजुकेशन में प्रॉफिट-ड्रिवन टेक्नोलॉजी कंपनियों की बढ़ती भूमिका शामिल है।

स्टडी के अनुसार, एनवायरनमेंटल इश्यू सबसे कम दिखाई देने वाले लेकिन सबसे ज़्यादा कॉन्सिक्वेंशियल रिस्क में से एक है। बड़े AI मॉडल एनर्जी-इंटेंसिव डेटा सेंटर्स और कूलिंग के लिए पानी के बड़े इस्तेमाल पर डिपेंड करते हैं। रिव्यू में बताया गया है कि इन कॉस्ट्स पर स्कूलों या यूनिवर्सिटीज़ में शायद ही कभी चर्चा होती है, भले ही स्टूडेंट्स और टीचर्स को AI टूल्स इस्तेमाल करने के लिए तेज़ी से बढ़ावा दिया जा रहा हो। एजुकेशन में, यह एक एथिकल कॉन्ट्राडिक्शन पैदा करता है: इंस्टीट्यूशन्स सस्टेनेबिलिटी को बढ़ावा दे सकते हैं, जबकि ऐसे सिस्टम्स पर डिपेंड करते हैं जिनका एनवायरनमेंटल इम्पैक्ट यूज़र्स द्वारा ठीक से समझा नहीं जाता है।

रिव्यू बायस और गलत जानकारी के बारे में भी चिंता जताता है। GenAI सिस्टम्स को इंटरनेट और दूसरे सोर्स से लिए गए बड़े डेटासेट्स पर ट्रेन किया जाता है। उन डेटासेट्स में स्टीरियोटाइप्स, कल्चरल असेम्प्शन्स, आइडियोलॉजिकल पैटर्न्स और फैक्ट्स में गलतियाँ हो सकती हैं। जब AI से बना कंटेंट क्लासरूम में लर्निंग रिसोर्स के तौर पर आता है, तो स्टूडेंट्स यह सोचकर बायस्ड या गलत जानकारी ले सकते हैं कि यह न्यूट्रल या ऑथेंटिक है।

क्या यह चिंता की बात है? हाँ, क्योंकि AI आउटपुट अक्सर पॉलिश्ड और कॉन्फिडेंट दिखते हैं। एक फ्लूएंट जवाब गलत जानकारी, मनगढ़ंत साइटेशन, छोटी कल्चरल सोच या छिपी हुई सोच को छिपा सकता है। रिव्यू में चेतावनी दी गई है कि इससे स्टूडेंट्स की भरोसेमंद जानकारी और मशीन से बनी संभावना के बीच फर्क करने की क्षमता कमजोर हो सकती है।

स्टूडेंट एजेंसी और क्रिटिकल थिंकिंग पर बढ़ता दबाव

जेनरेटिव AI के ज़्यादा काबिल होने के साथ, स्टूडेंट्स न सिर्फ मदद के लिए बल्कि कोर लर्निंग टास्क को पूरा करने के लिए भी इसका सहारा ले सकते हैं। खतरा सिर्फ यह नहीं है कि स्टूडेंट्स AI का इस्तेमाल चीटिंग करने के लिए कर सकते हैं, बल्कि यह भी है कि वे उस इंटेलेक्चुअल स्ट्रगल को बायपास करना शुरू कर सकते हैं जिससे लर्निंग होती है। अगर स्टूडेंट्स रेगुलर तौर पर एस्से ड्राफ्ट करने, रीडिंग को समराइज करने, प्रॉब्लम सॉल्व करने या आर्गुमेंट जेनरेट करने के लिए AI पर डिपेंड रहते हैं, तो वे अपने जजमेंट पर कॉन्फिडेंस खो सकते हैं। समय के साथ, AI का इस्तेमाल सपोर्ट से डिपेंडेंसी में बदल सकता है, खासकर जब लर्नर्स मशीन से बने आउटपुट को सोचने के लिए डिफ़ॉल्ट स्टार्टिंग पॉइंट मानने लगते हैं।

एजुकेशन का मतलब सिर्फ़ सही जवाब या बेहतर टेक्स्ट बनाना नहीं है, बल्कि सवाल करने, जांचने, तर्क करने, बदलने और कुछ बनाने की काबिलियत बढ़ाना भी है। GenAI इन लक्ष्यों को तब सपोर्ट कर सकता है जब इसे सोचने, फीडबैक या बहस के लिए एक टूल के तौर पर इस्तेमाल किया जाता है, लेकिन जब यह स्टूडेंट के अपने सोचने-समझने की कोशिश का सब्स्टीट्यूट बन जाता है तो यह उन्हें कमज़ोर कर सकता है।

पेपर में बताया गया है कि AI सीखने को तब बेहतर बना सकता है जब स्टूडेंट्स को इसके आउटपुट की आलोचना करनी हो, इसके अंदाज़ों को टेस्ट करना हो, सोर्स की तुलना करनी हो और अपनी खुद की वजह समझानी हो। यह तब नुकसानदायक हो जाता है जब सीखने वाले इसके जवाबों को बिना सोचे-समझे मान लेते हैं या मुश्किल कामों से बचने के लिए इसका इस्तेमाल करते हैं। यह फ़र्क काफी हद तक पढ़ाने के तरीके, असेसमेंट डिज़ाइन और टीचर की गाइडेंस पर निर्भर करता है।

एजुकेशन सेक्टर बैन पर एक सिंपल बहस से आगे बढ़ गया है। उभरता हुआ सवाल यह है कि एजुकेशन के गहरे मकसद को कमज़ोर किए बिना AI को ज़िम्मेदारी से कैसे जोड़ा जा सकता है। इसके लिए, स्टूडेंट्स को न सिर्फ़ AI का इस्तेमाल करना सीखना होगा, बल्कि उस पर सवाल उठाना भी सीखना होगा।

डेटा प्राइवेसी और सर्विलांस चिंता की एक और परत जोड़ते हैं। जब स्टूडेंट्स कमर्शियल AI प्लेटफॉर्म पर प्रॉम्प्ट, ड्राफ्ट, सवाल या पर्सनल लर्निंग डेटा सबमिट करते हैं, तो वे सेंसिटिव जानकारी को ऐसे सिस्टम के सामने ला सकते हैं जो स्कूलों और यूनिवर्सिटी के सीधे कंट्रोल से बाहर काम करते हैं। रिव्यू में चेतावनी दी गई है कि स्टूडेंट्स के इंटरैक्शन एक बड़ी डेटा इकॉनमी का हिस्सा बन सकते हैं जिसमें लर्निंग बिहेवियर को इकट्ठा किया जाता है, एनालाइज़ किया जाता है और शायद उससे पैसे कमाए जाते हैं।

स्टूडेंट्स शायद पूरी तरह से यह न समझ पाएं कि उनका डेटा कैसे इस्तेमाल, स्टोर या शेयर किया जाता है। इंस्टीट्यूशन साफ़ गवर्नेंस सिस्टम डेवलप करने से पहले टूल्स अपना सकते हैं। टीचर्स से प्राइवेसी, सहमति या अकाउंटेबिलिटी पर सही गाइडेंस के बिना AI को लर्निंग में इंटीग्रेट करने के लिए कहा जा सकता है।

एक और चिंता यह है कि बड़े AI प्लेटफॉर्म ज़्यादातर प्राइवेट कंपनियां डेवलप करती हैं जिनके बिज़नेस मॉडल स्केल, मार्केट कैप्चर और यूज़र डेटा से बनते हैं। एजुकेशन में उनकी बढ़ती मौजूदगी यह सवाल उठाती है कि लर्निंग इंफ्रास्ट्रक्चर को कौन कंट्रोल करता है, किसे फाइनेंशियली फायदा होता है और क्या कॉर्पोरेट प्रायोरिटीज़ एजुकेशनल वैल्यूज़ को बदल रही हैं।

लेखक का कहना है कि एजुकेशन सिस्टम को टीचिंग और लर्निंग के बिना सोचे-समझे कमोडिटीकरण का विरोध करना चाहिए। अगर AI को अपनाना मुख्य रूप से मार्केट के दबाव या पीछे रह जाने के इंस्टीट्यूशनल डर से होता है, तो स्कूल और यूनिवर्सिटीज़ बिना ज़्यादा पब्लिक निगरानी के मुख्य एजुकेशनल काम कमर्शियल प्लेटफॉर्म को सौंपने का रिस्क उठाते हैं।

एजुकेशन में AI पॉलिसी के लिए यह क्यों ज़रूरी है

जेनरेटिव AI को रोज़मर्रा की पढ़ाई में गहराई से शामिल करने से पहले एजुकेशन सिस्टम को मज़बूत एथिकल गवर्नेंस की ज़रूरत है। अब मुद्दा यह नहीं है कि स्टूडेंट और टीचर AI का इस्तेमाल करेंगे या नहीं, बल्कि यह है कि इसका इस्तेमाल सीखने, बराबरी और लोगों की भलाई के लिए किया जाएगा, या ऐसे तरीकों से किया जाएगा जो कम समय में असरदार हों और लंबे समय में नुकसान पहुंचाएं।

लेखक का सुझाव है कि इंस्टीट्यूशन AI अपनाने का आकलन कई मामलों में फ़ायदों और नुकसानों को तौलकर करें, जिसमें सीखने के नतीजे, स्टूडेंट की आज़ादी, प्राइवेसी, भेदभाव, एनवायरनमेंटल सस्टेनेबिलिटी और बराबरी शामिल हैं। इसका मतलब है कि AI पॉलिसी को एकेडमिक इंटेग्रिटी नियमों से आगे जाना चाहिए। उन्हें प्रोक्योरमेंट, डेटा गवर्नेंस, एनवायरनमेंटल असर, टीचर ट्रेनिंग, स्टूडेंट के अधिकार और जवाबदेही पर ध्यान देना चाहिए।

स्टूडेंट्स को यह सीखना चाहिए कि जेनरेटिव AI सिस्टम कैसे काम करते हैं, वे गलतियाँ क्यों कर सकते हैं, भेदभाव आउटपुट में कैसे आता है, डेटा के क्या रिस्क हैं और बड़े पैमाने पर AI के इस्तेमाल से एनवायरनमेंटल कॉस्ट क्या जुड़ी हैं। यह लिटरेसी सिर्फ़ कंप्यूटर साइंस या हायर एजुकेशन तक ही सीमित नहीं होनी चाहिए। इसे जनरल एजुकेशन का हिस्सा बनना चाहिए क्योंकि AI पहले से ही यह तय कर रहा है कि स्टूडेंट ज्ञान तक कैसे पहुँचते हैं और उसे कैसे बनाते हैं।

ज़िम्मेदार AI का इस्तेमाल काफी हद तक स्ट्रक्चर्ड पेडागॉजिकल डिज़ाइन पर निर्भर करता है। एजुकेटर्स को ऐसे असाइनमेंट बनाने के लिए ट्रेनिंग की ज़रूरत है जिनमें सिर्फ़ आउटसोर्सिंग के बजाय AI के साथ क्रिटिकल एंगेजमेंट की ज़रूरत हो। असेसमेंट में प्रोसेस, रिफ्लेक्शन, ओरल डिफेंस, इन-क्लास रीज़निंग, सोर्स इवैल्यूएशन और ओरिजिनल जजमेंट पर ज़्यादा ज़ोर देने की ज़रूरत हो सकती है।

इंस्टीट्यूशन्स को भी मज़बूत प्राइवेसी प्रोटेक्शन की ज़रूरत है। स्कूलों और यूनिवर्सिटीज़ को AI प्लेटफॉर्म्स को अपनाने से पहले उनकी जांच करनी चाहिए, यह पक्का करना चाहिए कि बिना सही सहमति के स्टूडेंट डेटा का गलत इस्तेमाल न हो और ऐसे टूल्स को प्राथमिकता देनी चाहिए जो डेटा इस्तेमाल के बजाय ट्रांसपेरेंसी दें। जहाँ हो सके, पब्लिक इंस्टीट्यूशन्स को ओपन-सोर्स, लोकल होस्टेड या एजुकेशन-स्पेसिफिक AI सिस्टम्स पर विचार करने की ज़रूरत हो सकती है जो कमर्शियल प्लेटफॉर्म्स पर डिपेंडेंस कम करते हैं।

एनवायर्नमेंटल अकाउंटेबिलिटी भी AI गवर्नेंस का हिस्सा बननी चाहिए। एजुकेशन सिस्टम्स को AI इंफ्रास्ट्रक्चर की एनर्जी और पानी की मांगों को नज़रअंदाज़ नहीं करना चाहिए। इंस्टीट्यूशन्स प्रोवाइडर्स से सस्टेनेबिलिटी के बारे में ज़्यादा साफ़ जानकारी मांग सकते हैं, प्रोक्योरमेंट में एनवायर्नमेंटल क्राइटेरिया शामिल कर सकते हैं और स्टूडेंट्स को डिजिटल सुविधा के पीछे रिसोर्स कॉस्ट के बारे में सिखा सकते हैं।

इक्विटी एक और बड़ी चिंता है। अगर अमीर इंस्टीट्यूशन्स और स्टूडेंट्स को बेहतर टूल्स मिलते हैं, जबकि कम रिसोर्स वाले लर्नर्स कम-क्वालिटी या खराब तरीके से गवर्न किए गए सिस्टम्स पर निर्भर रहते हैं, तो जेनरेटिव AI गैप को और बढ़ा सकता है। साथ ही, कमज़ोर ग्रुप्स को बायस्ड आउटपुट, सर्विलांस और कम ह्यूमन सपोर्ट से ज़्यादा रिस्क हो सकता है। पॉलिसीज़ को यह पक्का करना चाहिए कि AI