कस्तूरी और अन्य चाहते हैं कि एआई उपकरण रुके लेकिन उसके लिए बहुत देर हो चुकी है

एलोन मस्क और सार्वजनिक हस्तियों की एक सरणी ने एक खुले पत्र पर हस्ताक्षर किए, जो पिछले सप्ताह वायरल हो गया, चैटजीपीटी के पीछे की तकनीक जीपीटी -4 की तुलना में अधिक शक्तिशाली प्रशिक्षण भाषा मॉडल पर छह महीने के विराम का आह्वान किया। पत्र विषम है। यह शक्तिशाली चैटबॉट प्रौद्योगिकी की तैनाती की जल्दबाज़ी के रूप में आलोचना करता है, लेकिन उनकी क्षमताओं को भी बढ़ा-चढ़ाकर पेश करता है, एआई कयामत-प्रचार पर चित्रण करता है जिसने कुछ प्रेस को मोहित कर लिया है और हमें अधिक सूक्ष्म जोखिमों से विचलित कर दिया है। पत्र में पूछा गया है, "क्या हमें गैर-मानव दिमाग विकसित करना चाहिए जो अंततः हमारी संख्या से अधिक हो सकता है, पुराना हो सकता है, अप्रचलित हो सकता है?" "क्या हमें अपनी सभ्यता के नियंत्रण को खोने का जोखिम उठाना चाहिए?"

बेशक नहीं, लेकिन ऐसे मुद्दे हैं जिनके बारे में हमें अभी और अधिक चिंतित होना चाहिए, जैसे कुछ तेजी से गुप्त कंपनियों के बीच एआई क्षमताओं की एकाग्रता, असमानता के रूप में कलाकार बिना मुआवजे के अपने काम को चोरी पाते हैं, और कंपनियों से प्लग करने के लिए आने वाले सभी जोखिम उनके सिस्टम में चैटजीपीटी।

उस अंतिम बिंदु पर, टूथपेस्ट पहले ही ट्यूब से बाहर हो चुका होता है। OpenAI ने पिछले हफ्ते एक नई प्रणाली शुरू की जो व्यवसायों को ChatGPT को अपने मालिकाना डेटाबेस में प्लग करने की अनुमति देगी, इसके चैटबॉट को अपने सिस्टम पर जानकारी प्राप्त करने, बुकिंग करने और यहां तक ​​कि नए सॉफ़्टवेयर चलाने जैसे कार्यों को करने की अनुमति देगा।

जबकि प्लग-इन घोषणा को मुख्यधारा के प्रेस में अधिक ध्यान नहीं मिला, कई प्रौद्योगिकीविदों ने इसे चैटजीपीटी के लिए एक आश्चर्यजनक छलांग के रूप में देखा। यह न केवल उस जानकारी को खोज और संश्लेषित कर सकता था जिस पर उसे प्रशिक्षित किया गया था, वह कार्रवाई भी कर सकता था।

उसके बारे में कुछ देर सोचें। मशीन लर्निंग (एमएल) सिस्टम एक गुप्त ब्लैक बॉक्स में निर्णय लेते हैं। OpenAI ने इसे जंगल में छोड़ने से पहले GPT-4 का परीक्षण करने में सात महीने बिताए, लेकिन इसके तथाकथित 'रेड टीम' इंजीनियर, जिन्होंने इसका परीक्षण किया कि इसका दुरुपयोग कैसे किया जा सकता है, लाखों लोगों द्वारा इसका शोषण किए जाने के तरीकों का केवल एक अंश ही कवर कर सके। वास्तविक दुनिया के उपयोगकर्ता। हालाँकि OpenAI ने यह सुनिश्चित करने के लिए अपने सिस्टम का परीक्षण और परीक्षण किया है कि यह सुरक्षित है, कोई भी वास्तव में इसके जोखिमों की पूरी सीमा को नहीं जानता है जब तक कि इसे सार्वजनिक रूप से तैनात नहीं किया जाता है। और वे जोखिम और अधिक गंभीर हो जाते हैं जब चैटजीपीटी वेब पर चीजें करना शुरू कर सकता है।

इस तरह के जुए लेना, निश्चित रूप से, चैटजीपीटी को इतना लोकप्रिय बना देता है। OpenAI ने ChatGPT को सार्वजनिक करके एक दांव लगाया और परिणाम एक AI टीम के लिए सार्वजनिक प्रशंसा और वायरल सफलता थी जो कि बड़ी टेक फर्मों के लिए काम करने वालों की तुलना में छोटी है।

अब इन नए प्लग-इन के साथ, OpenAI एक और दांव खेल रहा है, ChatGPT को और भी अधिक क्षमताएं दे रहा है और इसे व्यवसायों के लिए खोल रहा है। अब तक, एक्सपेडिया ग्रुप और भुगतान ऑपरेटर कर्लना बैंक सहित 11 कंपनियों ने प्रारंभिक परीक्षण मामलों के रूप में अपने सर्वर में चैटजीपीटी को 'प्लग' किया है।

कुछ नई क्षमताएँ जो OpenAI व्यवसायों को पेश कर रही हैं, पागल लगती हैं। एक, जिसे 'कोड दुभाषिया' कहा जाता है, एक व्यवसाय को अपनी ओर से कोड लिखने और यहां तक ​​कि निष्पादित करने के लिए ChatGPT प्राप्त करने की अनुमति देता है। सॉफ़्टवेयर डेवलपर आमतौर पर यह सुनिश्चित करने के लिए एक कोड दुभाषिया का उपयोग करते हैं कि वे जिस प्रोग्राम को लिख रहे हैं वह काम करता है, जिससे उन्हें छोटे स्निपेट का परीक्षण करने की अनुमति मिलती है। नए प्लग-इन के साथ, चैटजीपीटी कोड लिख और परीक्षण भी कर सकता है, और यह सुरक्षा के दृष्टिकोण से संभावित रूप से खतरनाक लगता है।

अमेज़ॅन एआई लैब्स के पूर्व प्रमुख और पिनकोन के वर्तमान सीईओ ईदो लिबर्टी ने कहा, "मुझे उम्मीद है कि जगह में पर्याप्त रेलिंग हैं, एक स्टार्टअप जिसकी ओपनएआई के साथ अपने नए प्लग-इन में से एक पर तकनीकी साझेदारी है, जब मैंने पूछा उन्हें ChatGPT को कोड चलाने देने के जोखिमों के बारे में बताया। "यह कुछ ऐसा है जो सैद्धांतिक रूप से भेद्यता हो सकता है।"

साओ पाउलो ब्राजील स्थित माइक्रोसॉफ्ट के एक सॉफ्टवेयर इंजीनियर मार्को कार्डसो ने चैटजीपीटी की नई कोड-लेखन क्षमताओं का परीक्षण किया और नोट किया कि यह कितना उल्लेखनीय था कि सिस्टम "अब इंटरनेट पर किसी भी सर्वर से अनुरोध कर सकता है।" लेकिन इसका मतलब यह भी था कि " कुछ भी नहीं रोक रहा है" ChatGPT को उस नेटवर्क तक पहुँचने से रोक रहा है जिसे इसे नहीं करना चाहिए था। इसे रोकने के लिए, कार्डसो ने अपने स्वयं के गार्डराइल में डाल दिया, उपकरण को केवल एक विशेष डोमेन तक पहुंचने के लिए स्पष्ट रूप से निर्देश दिया। लेकिन इससे चैटजीपीटी के उपयोगकर्ताओं पर अतिरिक्त जिम्मेदारी आ जाती है, उन्होंने कहा। किसी अज्ञात सर्वर से अनुरोध करने से इसे क्या रोका जा सकता है?

व्हार्टन के एक प्रोफेसर एथन मोलिक, जिन्होंने चैटजीपीटी के साथ बड़े पैमाने पर प्रयोग किया है, ने इस सप्ताह ट्वीट किया कि इसके प्लग-इन को आज़माने से टूल को अन्य प्रणालियों से जोड़ने के "अप्रत्याशित जोखिमों" के बारे में ओपनएआई के स्वयं के शोध पर एक रोशनी डाली गई।

एक छोटी कंपनी के रूप में OpenAI की चपलता ने इसे एक वर्ष के भीतर, DALL-E 2 से ChatGPT से GPT-4 तक, जनता के लिए उल्लेखनीय नई तकनीक जारी करने के लिए तेज़ी से आगे बढ़ने की अनुमति दी है, इस तरह के प्रभाव को प्राप्त करना जो बहुत बड़ी कंपनियां केवल सपना देख सकती हैं का। लेकिन दूसरा पहलू यह है कि हम पूरी तरह से नई और संभावित त्रुटिपूर्ण तकनीक के लिए गिनी पिग हैं।

कुछ मायनों में, यह वास्तव में मायने नहीं रखता है अगर OpenAI खुले पत्र से सहमत है और छह महीने के लिए अपने विकास कार्य को रोक देता है। कंपनियों के साथ चैटजीपीटी को अपने सिस्टम में प्लग करने और इसे जनता पर परीक्षण करने के लिए, यह पहले से ही बहुत देर हो सकती है।

सोर्स: livemint