AI गॉडफादर की चेतावनी, OpenAI का नया o1 मॉडल दे सकता है धोखा

Washington वाशिंगटन। “AI के गॉडफादर” के नाम से मशहूर योशुआ बेंगियो ने OpenAI के नवीनतम GPT-4o मॉडल की क्षमताओं के बारे में खतरे की घंटी बजाई है। उन्होंने कहा कि उन्हें चिंता है कि नया AI मॉडल योजना बनाने, धोखा देने और धोखाधड़ी करने में सक्षम हो सकता है, स्वतंत्र AI फर्मों की रिपोर्ट के आधार पर कि o1 मॉडल पिछले मॉडलों की तुलना में बेहतर सोच और तर्क कर सकता है। बेंगियो ने बिजनेस इनसाइडर को बताया कि o1 में “अपने पूर्ववर्तियों की तुलना में तर्क करने की बेहतर क्षमता है।” AI के गॉडफादर ने AI मॉडल के लिए बेहतर सुरक्षा परीक्षणों का भी आग्रह किया।

“सामान्य तौर पर, धोखा देने की क्षमता बहुत खतरनाक होती है, और हमें उस जोखिम और o1 के मामले में इसके परिणामों का मूल्यांकन करने के लिए बहुत मजबूत सुरक्षा परीक्षण करने चाहिए,” बेंगियो ने कहा, जिन्होंने जेफ्री हिंटन और यान लेकुन के साथ मशीन लर्निंग पर अपने पुरस्कार विजेता शोध के लिए “AI के गॉडफादर” का उपनाम अर्जित किया।

उन्होंने इस बात पर प्रकाश डाला कि यह काफी संभव है कि AI मॉडल योजना बनाने की क्षमता हासिल कर लें, जिससे वे उपयोगकर्ता या कंपनी की जानकारी के बिना जानबूझकर धोखा दे सकें। उन्होंने ऐसे कड़े उपाय बनाने पर जोर दिया जो भविष्य में AI मॉडल पर "मानव नियंत्रण के नुकसान को रोक सकें"। इस महीने की शुरुआत में, OpenAI ने बेहतर "तर्क" क्षमताओं के साथ AI मॉडल की अपनी नवीनतम o1 श्रृंखला की घोषणा की।

Microsoft समर्थित कंपनी ने कहा कि मॉडल "प्रतिक्रिया देने से पहले सोचने में अधिक समय बिताने के लिए डिज़ाइन किए गए हैं" - इस क्षेत्र में एक सफलता जो ChatGPT और इस पर आधारित भविष्य के AI चैटबॉट को प्रश्नों की बारीकियों को समझने में अधिक सक्षम बना सकती है "बहुत कुछ एक व्यक्ति की तरह।" बेंगियो की चिंताएँ इस बात पर केंद्रित हैं कि अगली पीढ़ी के AI मॉडल कितने तार्किक रूप से सक्षम होंगे, खासकर o1 की शुरुआत के बाद। उन्होंने जनरेटिव AI (GenAI) मॉडल की तेज़ी से प्रगति के बारे में अपनी घबराहट व्यक्त की और कहा कि कैलिफ़ोर्निया के SB 1047 जैसे कानूनों की आवश्यकता है, जो सुरक्षित उपयोग को बढ़ावा देने के लिए AI मॉडल पर कई प्रतिबंध लगाता है और इन मॉडलों के पीछे कंपनियों को तीसरे पक्ष की फर्मों से सुरक्षा परीक्षण की अनुमति देने के लिए बाध्य करता है।