'इंसान नियंत्रण खो सकते हैं'—एंथ्रोपिक ने AI के भविष्य को लेकर दी गंभीर चेतावनी

एंथ्रोपिक ने दुनिया को एक चौंकाने वाली चेतावनी दी है। AI सिस्टम तेज़ी से अपने बाद के सिस्टम को डिज़ाइन और ट्रेन करने की क्षमता के करीब पहुँच रहे हैं, और हो सकता है कि इंसान अभी इसके लिए तैयार न हो।

'जब AI खुद बनाता है' टाइटल वाली एक नई रिपोर्ट में, सैन फ्रांसिस्को की कंपनी ने बताया है कि AI पहले से ही AI सिस्टम के डेवलपमेंट को तेज़ कर रहा है, डेटा दिखाते हुए कि एंथ्रोपिक के इंजीनियर आज हर तिमाही में 2021 और 2025 के बीच की तुलना में 8 गुना ज़्यादा कोड शिप करते हैं, इसका बड़ा कारण यह है कि ज़्यादातर कोड क्लॉड ही लिख रहे हैं।

मई 2026 तक, एंथ्रोपिक के कोडबेस में मर्ज किए गए 80 प्रतिशत से ज़्यादा कोड क्लॉड ने लिखे थे। कंपनी का सबसे एडवांस्ड मॉडल, क्लॉड मिथोस प्रीव्यू, अब ऐसे काम पूरे कर सकता है जिन्हें एक कुशल इंसान को 12 घंटे तक लगते थे, जबकि दो साल पहले इसमें सिर्फ़ चार मिनट लगते थे। एंथ्रोपिकएंथ्रोपिक

रफ़्तार तेज़ी से बढ़ रही है। AI मॉडल्स जो काम खुद भरोसेमंद तरीके से पूरे कर सकते हैं, उनकी लंबाई लगभग हर चार महीने में दोगुनी हो रही है। अगर यही ट्रेंड रहा, तो एंथ्रोपिक का अंदाज़ा है कि 2027 तक, AI सिस्टम ऐसे काम कर सकते हैं जिनमें एक इंसान को हफ़्तों लगते हैं।

कंपनी आने वाले समय के एक सिनेरियो के बारे में बताती है, 'क्लोजिंग द लूप', जहाँ एजेंट्स इतने काबिल हो जाएँगे कि वे खुद मॉडल्स बना और ट्रेन कर सकें, ताकि क्लाउड के आने वाले वर्शन्स को क्लाउड खुद ही लगातार बेहतर बना सके।

इस संभावना में गंभीर रिस्क हैं। पूरी तरह से खुद को बेहतर बनाने से इंसानों का AI सिस्टम्स पर कंट्रोल खोने का रिस्क बढ़ सकता है। एंथ्रोपिक चेतावनी देता है कि अगर AI पूरी तरह से अपने सक्सेसर बना सकता है, तो हम उसके बिहेवियर को सिक्योर, मॉनिटर और शेप करने के तरीके और भी ज़रूरी हो जाएँगे।

सबसे खतरनाक सिनेरियो में, आज के मॉडल्स में मौजूद मिसअलाइनमेंट की कभी-कभार होने वाली घटनाएँ तब और बढ़ सकती हैं जब मॉडल्स अपने सक्सेसर बनाएँ, और यह तब तक ज़्यादा बार होगा लेकिन कम समझा जाएगा जब तक हम उन पर से कंट्रोल खो नहीं देते।

एंथ्रोपिक मानता है कि वह अकेले प्रोग्रेस को नहीं रोक सकता, यह देखते हुए कि एक लैब के अकेले रुकने से यह बदल जाएगा कि आगे कौन है, लेकिन इससे वह बड़ी सोच-विचार वाली प्रक्रिया नहीं बनेगी जो अभी नहीं है। कंपनी वेरिफाइड, मल्टीलेटरल कोऑर्डिनेशन की मांग कर रही है, और कहती है कि अभी एक्शन लेने का समय है।