OpenAI किसी ऐसे व्यक्ति को हायर कर रहा है जो ChatGPT को समस्या बनने से रोक सके

New Delhi: ChatGPT बनाने वाली कंपनी OpenAI, एक नए सीनियर रोल के लिए हायरिंग कर रही है, जो आर्टिफिशियल इंटेलिजेंस को लेकर बढ़ती चिंताओं को दिखाता है। हेड ऑफ़ प्रिपेयर्डनेस नाम की इस पोस्ट की घोषणा CEO सैम ऑल्टमैन ने X पर की। उन्होंने इसे “एक मुश्किल समय में एक ज़रूरी काम” बताया।

इस जॉब का मकसद यह पक्का करना है कि पावरफुल AI सिस्टम नुकसान न पहुँचाएँ। ऑल्टमैन ने कहा कि मॉडल तेज़ी से बेहतर हो रहे हैं और कई काम के काम कर सकते हैं, लेकिन वे रिस्क भी पैदा करते हैं। उन्होंने चिंता की दो बातें बताईं। पहली, AI अब कंप्यूटर सिस्टम में गंभीर कमियाँ ढूँढ सकता है, जिसका फायदा अटैकर उठा सकते हैं। दूसरी, AI मेंटल हेल्थ पर असर डाल सकता है। 2025 में, आत्महत्या से जुड़े मामलों में ChatGPT को दोषी ठहराया गया था, जिससे इस बात पर चिंता बढ़ गई थी कि लोग चैटबॉट के साथ कैसे इंटरैक्ट करते हैं।

यह घोषणा कई परेशान करने वाली घटनाओं के बाद हुई है। टेक्सास में एक 23 साल के कॉलेज जाने वाले लड़के ने खुदकुशी कर ली, और उसके परिवार ने अपने केस में आरोप लगाया है कि ChatGPT ने उसे ऐसा कदम उठाने के लिए 'उकसाया'। भारत में, एक्सपर्ट्स ने चेतावनी दी है कि युवा लोग AI टूल्स के साथ घंटों बिताते हैं, जिससे कभी-कभी एंग्जायटी और डिप्रेशन बढ़ जाता है। साइबर सिक्योरिटी रिसर्चर्स ने यह भी दिखाया है कि एडवांस्ड मॉडल ऐसे कोड बना सकते हैं जो पहले से छिपी हुई कमजोरियों को सामने लाते हैं, जिससे यह चिंता बढ़ गई है कि हैकर्स AI का इस्तेमाल हथियार के तौर पर कर सकते हैं।

ऑल्टमैन ने माना कि नया रोल काफी डिमांडिंग होगा। उन्होंने कहा कि हायर किए गए व्यक्ति को तुरंत काम शुरू करना होगा और चेतावनी दी, “यह एक स्ट्रेसफुल काम होगा और आप तुरंत ही मुश्किल में पड़ जाएंगे।”

OpenAI की दुनिया भर में बढ़ती आलोचना हो रही है। ChatGPT की अपनी काबिलियत के लिए तारीफ़ हुई है, लेकिन इसे मेंटल हेल्थ से जुड़ी चिंताओं, गलत जानकारी फैलाने और कंप्यूटर की कमजोरियों को सामने लाने जैसी गंभीर गड़बड़ियों के लिए भी दोषी ठहराया गया है। US, यूरोप और भारत की सरकारें AI को रेगुलेट करने के लिए नए नियम बना रही हैं। वॉचडॉग कंपनियों पर यह साबित करने के लिए दबाव डाल रहे हैं कि उनके सिस्टम सुरक्षित हैं।

चुना गया व्यक्ति OpenAI के प्रिपेयर्डनेस फ्रेमवर्क को लीड करेगा, जो रिस्क को ट्रैक करने, AI सिस्टम को टेस्ट करने और सेफगार्ड डिज़ाइन करने का एक प्लान है। इस काम में थ्रेट मॉडल बनाना, इवैल्यूएशन करना और गलत इस्तेमाल के खिलाफ बचाव करना शामिल होगा। लीडर इंजीनियर, रिसर्चर और पॉलिसी टीम के साथ काम करेंगे। वे नए AI फीचर्स कब और कैसे रिलीज़ करने हैं, इस पर फैसले लेने में गाइड करेंगे और यह पक्का करेंगे कि सेफ्टी चेक हर प्रोडक्ट साइकिल का हिस्सा हों।