विशेषज्ञों ने AI के काम में पक्षपात के प्रति आगाह किया

Hyderabad हैदराबाद: क्या होता है जब AI सिर्फ़ संकेतों का जवाब देने के बजाय निर्णय लेने, कार्यों को पूरा करने और स्वतंत्र रूप से कार्य करने लगे? सेंट फ्रांसिस कॉलेज फॉर विमेन में, हैदराबाद भर से छात्रों ने एजेंटिक AI के साथ काम किया, एक ऐसा मॉडल जो AI को निष्क्रिय स्वचालन से बुद्धिमान, लक्ष्य-संचालित सिस्टम में बदल देता है जो नौकरी के आवेदनों का मसौदा तैयार करने, ईमेल का जवाब देने, समाचारों का सारांश तैयार करने या शोध करने जैसे जटिल कार्य कर सकता है। हैदराबाद में अमेरिकन स्पेस प्रोग्रामिंग कोऑर्डिनेटर मेलिसा नंदुला ने कहा, "यह सिर्फ़ तकनीक के बारे में नहीं है, यह विकल्पों के बारे में है, इसे कौन बनाता है, इसका उपयोग कैसे किया जाता है और इसमें कौन से मूल्य अंतर्निहित हैं।" "एजेंटिक AI लोगों के काम करने, संवाद करने और समस्याओं को हल करने के तरीके को आकार देने जा रहा है। लेकिन इसका मतलब है कि हमें विश्वास, जिम्मेदारी और नैतिकता के बारे में कठिन सवाल भी पूछने होंगे।" अमेरिकन कॉर्नर हैदराबाद और सेंटल के सहयोग से आयोजित दो दिवसीय कार्यशाला में छात्रों को दिखाया गया कि बिना किसी प्रोग्रामिंग पृष्ठभूमि के काम करने वाले AI एजेंट बनाने के लिए नो-कोड प्लेटफ़ॉर्म का उपयोग कैसे किया जा सकता है। लेकिन तकनीकी के साथ-साथ, फोकस संदर्भ और परिणाम पर दृढ़ता से रहा।

सेंटले के सह-संस्थापक साई कृष्णा ने कहा, "हम चाहते हैं कि छात्र देखें कि AI कोई जादू नहीं है। यह लोगों द्वारा, लोगों के लिए बनाया गया सिस्टम है।" "अगर हम AI को लक्ष्य दे रहे हैं, तो हमें यह समझना होगा कि वे किसके लक्ष्य हैं और अगर वे गलत हैं तो क्या होगा।" AI इन कमांड: एथिक्स, ऑटोनॉमी, एंड अकाउंटेबिलिटी पर पैनल चर्चा के दौरान, Factly के संस्थापक राकेश दुब्बुडू ने AI सिस्टम को तटस्थ उपकरण के रूप में मानने के प्रलोभन के खिलाफ चेतावनी दी। उन्होंने पूछा, "अगर कोई सिस्टम किसी को लाभ से वंचित करता है या जीवन को प्रभावित करने वाला कोई निर्णय लेता है, तो इसके लिए कौन जिम्मेदार है?" "हम 'AI ने ऐसा किया' को नया बहाना नहीं बनने दे सकते।" सेंट फ्रांसिस में सहायक प्रोफेसर पद्मश्री ने कहा कि छात्रों को न केवल यह सवाल करना सीखना चाहिए कि AI क्या करता है, बल्कि यह भी कि उसे क्या नहीं करना चाहिए। "पूर्वाग्रह कोई बग नहीं है, यह एक डिज़ाइन विकल्प है जिसे हम अक्सर नोटिस करने में विफल रहते हैं। हमें इस बारे में जानबूझकर सोचना होगा कि हम इन एजेंटों में क्या बना रहे हैं।" प्रिंसिपल प्रोफेसर टी. उमा जोसेफ ने कहा कि असली लक्ष्य सिर्फ़ उपयोगकर्ताओं को ही नहीं, बल्कि जानकार रचनाकारों को आकार देना है। “एजेंटिक एआई एक महत्वपूर्ण मोड़ है, हम निर्देश देने वाले उपकरणों से एजेंटों की ओर बढ़ रहे हैं जो व्याख्या करते हैं, निर्णय लेते हैं और कार्य करते हैं। और यह नागरिक जिम्मेदारी के साथ आता है।”

कार्यक्रम का समापन राजनीतिक-आर्थिक अधिकारी वीना थंगावेलु की टिप्पणियों के साथ हुआ, जिन्होंने छात्रों से उभरती हुई तकनीक में नेतृत्व की भूमिका निभाने का आग्रह किया। “इस तरह की कार्यशालाएँ कौशल से कहीं ज़्यादा हैं। वे उन मूल्यों को आकार देने के बारे में हैं जो एआई के विकास को निर्देशित करते हैं, और ऐसा करने के लिए आपको कोडर होने की ज़रूरत नहीं है।”हैदराबाद भर के कॉलेजों से लगभग 175 प्रतिभागियों ने कार्यक्रम में भाग लिया, अपने स्वयं के एआई एजेंट बनाए, महत्वपूर्ण संवाद में शामिल हुए और एआई द्वारा उठाए गए बड़े सवालों का सामना किया।