ओपनएआई ने हाई-प्रेशर एआई सेफ्टी रोल के लिए ‘हेड ऑफ प्रिपेयर्डनेस’ की तलाश

ChatGPT के पीछे की कंपनी OpenAI, आर्टिफिशियल इंटेलिजेंस के सबसे मुश्किल और सेंसिटिव पहलू — इसके रिस्क को मैनेज करने — को संभालने के लिए एक सीनियर लीडर की तलाश कर रही है। OpenAI के CEO सैम ऑल्टमैन ने हाल ही में बताया कि ऑर्गनाइज़ेशन हेड ऑफ़ प्रिपेयर्डनेस को हायर कर रहा है, यह एक डिमांडिंग रोल है जिसकी सालाना सैलरी $555,000 (4.6 करोड़ रुपये से ज़्यादा) है, जिसमें इक्विटी शामिल नहीं है।

ऑल्टमैन ने इस पोजीशन की मुश्किल को कम नहीं बताया। उन्होंने खुले तौर पर इस जॉब को “स्ट्रेसफुल” बताया, और इस बात पर ज़ोर दिया कि जो व्यक्ति इस रोल में आएगा, उसे पहले दिन से ही मुश्किल, हाई-स्टेक फैसलों का सामना करना पड़ेगा। उनके मुताबिक, AI सिस्टम बहुत तेज़ी से आगे बढ़ रहे हैं, और उनसे जुड़े रिस्क अब भविष्य के लिए थ्योरेटिकल चिंताएँ नहीं हैं।

हेड ऑफ़ प्रिपेयर्डनेस का रोल OpenAI की सेफ्टी सिस्टम्स टीम में होता है और एडवांस्ड AI मॉडल्स से होने वाले संभावित नुकसान का अंदाज़ा लगाने, टेस्ट करने और उन्हें कम करने पर फोकस करता है। चैटGPT जैसे AI टूल्स अब रोज़मर्रा के कामों के लिए बहुत ज़्यादा इस्तेमाल हो रहे हैं — ईमेल लिखने से लेकर ट्रैवल प्लान करने तक — ओपनAI का मानना ​​है कि फ़ायदों की तरह ही रिस्क का लेवल और नेचर भी तेज़ी से बढ़ रहा है।

ऑल्टमैन ने 2025 में होने वाले डेवलपमेंट को शुरुआती चेतावनी के संकेत के तौर पर बताया। चिंता का एक मुख्य एरिया मेंटल हेल्थ है। जैसे-जैसे AI सिस्टम ज़्यादा बातचीत करने वाले और इमोशनली रिस्पॉन्सिव होते जा रहे हैं, कुछ यूज़र्स चैटबॉट्स को थेरेपी के सब्स्टीट्यूट के तौर पर इस्तेमाल करने लगे हैं। कुछ रिपोर्ट किए गए मामलों में, इसने भ्रम या अनहेल्दी सोच के पैटर्न को मज़बूत करके मौजूदा मेंटल हेल्थ की हालत को और खराब कर दिया है। ओपनAI ने पिछले साल इन चुनौतियों को माना था और कहा था कि वह मेंटल हेल्थ प्रोफेशनल्स के साथ मिलकर यह बेहतर बनाने पर काम कर रहा है कि चैटGPT यूज़र्स में परेशानी, खुद को नुकसान पहुँचाने या साइकोसिस के लक्षण दिखाने पर कैसे रिस्पॉन्ड करता है।

एक और बड़ा मुद्दा साइबर सिक्योरिटी है। ऑल्टमैन ने बताया कि AI मॉडल अब सॉफ्टवेयर और कंप्यूटर सिस्टम में गंभीर कमज़ोरियों को पहचानने में सक्षम हैं। हालाँकि यह क्षमता डिजिटल सिक्योरिटी को काफी बेहतर बना सकती है, लेकिन अगर ऐसी शक्तियों को ध्यान से रोका और मॉनिटर नहीं किया जाता है, तो यह बुरे लोगों द्वारा गलत इस्तेमाल का रिस्क भी बढ़ाती है।

जॉब लिस्टिंग में बताया गया है कि हेड ऑफ़ प्रिपेयर्डनेस थ्रेट मॉडल बनाने, कैपेबिलिटी इवैल्यूएशन करने और ऐसी मिटिगेशन स्ट्रेटेजी डिज़ाइन करने के लिए ज़िम्मेदार होगा जो तेज़ी से पावरफुल AI सिस्टम के साथ स्केल कर सकें। आसान शब्दों में, इस रोल में यह पूछना शामिल है कि क्या गलत हो सकता है — और यह पक्का करना कि कंपनी उन सिनेरियो के लिए तैयार है।

मोटी सैलरी इस पोस्ट की इंपॉर्टेंस और प्रेशर दोनों को दिखाती है। ऑल्टमैन ने इसे OpenAI के अंदर सबसे ज़रूरी रोल में से एक बताया है, ऐसे समय में जब आर्टिफिशियल इंटेलिजेंस समाज, इकॉनमी और लोगों की ज़िंदगी पर बढ़ता असर डाल रहा है।

यह हायरिंग ड्राइव OpenAI के लिए एक सेंसिटिव फेज़ में भी आ रही है। पिछले एक साल में, कंपनी को पुराने एम्प्लॉई की आलोचना का सामना करना पड़ा है, जिन्होंने तर्क दिया कि तेज़ी से प्रोडक्ट लॉन्च होने से सेफ्टी की चिंताएँ दब रही हैं। मई 2024 में, जैन लीके, जो पहले OpenAI की सेफ्टी टीम को लीड करते थे, ने इस्तीफा दे दिया और पब्लिकली ऑर्गनाइज़ेशन पर अपने फाउंडिंग मिशन से भटकने का आरोप लगाया। उन्होंने चेतावनी दी कि इंसानों से ज़्यादा स्मार्ट AI सिस्टम बनाना बहुत बड़ी ज़िम्मेदारी है।

इसके बाद और भी लोग चले गए। पूर्व स्टाफ मेंबर डेनियल कोकोटाज्लो ने कहा कि उन्होंने OpenAI की ज़िम्मेदारी से काम करने की क्षमता पर भरोसा खोने के बाद कंपनी छोड़ दी, क्योंकि यह आर्टिफिशियल जनरल इंटेलिजेंस (AGI) के करीब जा रहा था। बाद में उन्होंने दावा किया कि इस्तीफ़ों के कारण AGI सेफ़्टी रिसर्च टीम काफ़ी छोटी हो गई थी।

पहले हेड ऑफ़ प्रिपेयर्डनेस का रोल एलेक्ज़ेंडर मैड्री के पास था, जो जुलाई 2024 में OpenAI में दूसरी पोस्ट पर चले गए। अब उस खाली जगह को भरना सबसे ज़रूरी लगता है क्योंकि कंपनी तेज़ी से इनोवेशन और रेगुलेटर्स, रिसर्चर्स और जनता की बढ़ती जांच के बीच बैलेंस बना रही है।