nuclear हथियारों के निर्माण को रोकने के लिए एआई मॉडल का उपयोग कैसे किया जा रहा

Technology प्रौद्योगिकी:कृत्रिम बुद्धिमत्ता की तेज़ी से विकसित होती दुनिया में, इसके लाभ तो महत्वपूर्ण हैं, लेकिन इसके कुछ नुकसान भी हैं। कृत्रिम बुद्धिमत्ता में समाज को सकारात्मक और नकारात्मक, दोनों तरह से बदलने की क्षमता है। कई लोग मानते हैं कि यह बीमारियों को ठीक करने, मानव जीवन को बढ़ाने, जलवायु परिवर्तन से निपटने और ब्रह्मांड के रहस्यों को उजागर करने में मदद कर सकती है।

अब कृत्रिम बुद्धिमत्ता मॉडलों की सुरक्षा के लिए कदम उठाए जा रहे हैं, ताकि परमाणु हथियार बनाने के लिए उनके इस्तेमाल को रोका जा सके।

अमेज़न और गूगल समर्थित एक कृत्रिम बुद्धिमत्ता स्टार्टअप ने अपने कृत्रिम बुद्धिमत्ता को परमाणु बम बनाने जैसे नापाक उद्देश्यों के लिए इस्तेमाल होने से रोकने के लिए एक नया उपकरण विकसित किया है। एंथ्रोपिक का क्लाउड, ओपनएआई के चैटजीपीटी का सीधा प्रतिस्पर्धी है।

एंथ्रोपिक ने कहा कि वह एक साल से भी ज़्यादा समय से राष्ट्रीय परमाणु सुरक्षा प्रशासन (एनएनएसए) के साथ मिलकर एक ऐसा "क्लासिफायर" विकसित कर रहा है जो उसके कृत्रिम बुद्धिमत्ता सिस्टम पर परमाणु रिएक्टर या बम बनाने के निर्देशों जैसी "चिंताजनक" बातचीत को रोक सके।

यह कैसे हुआ?

नया एआई मॉडल, क्लाउड, "परमाणु हथियारों के विकास के बारे में संभावित रूप से चिंताजनक बातचीत" का पता लगाने और उसे रोकने के लिए विकसित किया गया है।

यह एक ईमेल स्पैम फ़िल्टर की तरह काम करता है, जो उपयोगकर्ताओं के इंटरैक्शन का प्रभावशाली सटीकता से विश्लेषण करके रीयल-टाइम खतरों की पहचान करता है। कंपनी के अनुसार, 'क्लासिफायर' ने परमाणु हथियारों से संबंधित 94.8% प्रश्नों को सही ढंग से चिह्नित किया, हालाँकि इसने गलती से 5.2% हानिरहित प्रश्नों को खतरनाक के रूप में वर्गीकृत कर दिया।

दुरुपयोग को रोकने के लिए यह तकनीक पहले से ही कुछ क्लाउड मॉडलों में एकीकृत है। एंथ्रोपिक, एआई की निगरानी के महत्व पर ज़ोर देता है क्योंकि यह राष्ट्रीय सुरक्षा के लिए ख़तरा बन सकने वाले खतरनाक तकनीकी ज्ञान प्रदान करने के जोखिम से बचने के लिए और अधिक उन्नत होता जा रहा है।

एंथ्रोपिक ने कहा है, "जैसे-जैसे एआई मॉडल अधिक सक्षम होते जा रहे हैं, हमें इस पर कड़ी नज़र रखने की ज़रूरत है कि क्या वे उपयोगकर्ताओं को ऐसे खतरनाक तकनीकी ज्ञान प्रदान कर सकते हैं जो राष्ट्रीय सुरक्षा के लिए ख़तरा बन सकते हैं।"

इस महीने की शुरुआत में, एंथ्रोपिक ने घोषणा की कि वह अपना क्लाउड एआई मॉडल अमेरिकी सरकार को केवल $1 (लगभग 87 रुपये) में उपलब्ध कराएगा, और संघीय अनुबंध हासिल करने के लिए किफायती सौदों का प्रस्ताव देने वाले अन्य एआई स्टार्टअप्स में शामिल हो गया है।

यह प्रस्ताव क्लाउड, ओपनएआई के चैटजीपीटी और गूगल के जेमिनी को अमेरिकी सरकार की स्वीकृत एआई विक्रेता सूची में शामिल करने के बाद आया है। सीईओ डारियो अमोदेई ने सरकारी संस्थानों को "सबसे सक्षम, सुरक्षित एआई टूल्स" तक पहुँच प्रदान करने के महत्व पर प्रकाश डाला।

एंथ्रोपिक अपनी उन्नत एआई सुविधाओं से जुड़े नए जोखिमों के बारे में भी चेतावनी देता है। कंप्यूटर यूज़ जैसे टूल, जो क्लाउड को उपयोगकर्ता की मशीन को नियंत्रित करने की अनुमति देते हैं, और क्लाउड कोड, जो चैटबॉट को सीधे डेवलपर के टर्मिनल में एकीकृत करता है, दुरुपयोग की नई संभावनाओं को जन्म देते हैं।

कंपनी का कहना है कि इन क्षमताओं के कारण दुरुपयोग, मैलवेयर निर्माण और साइबर हमलों में वृद्धि हो सकती है।

यह अद्यतन नीति दर्शाती है कि कैसे एआई कंपनियों पर अपने मॉडलों का हानिकारक उद्देश्यों के लिए शोषण होने से रोकने का दबाव बढ़ रहा है।

दुनिया के कुछ सबसे खतरनाक हथियारों पर विशेष रूप से ध्यान केंद्रित करके और साइबर सुरक्षा जोखिमों को उजागर करके, एंथ्रोपिक खुद को ज़िम्मेदार एआई विकास में अग्रणी के रूप में स्थापित कर रहा है, और नियामकों और संभावित बुरे लोगों, दोनों से आगे रह रहा है।

उद्योग-व्यापी सुरक्षा को बढ़ावा देने के लिए, एंथ्रोपिक अपने निष्कर्षों को फ्रंटियर मॉडल फ़ोरम के साथ साझा करने की योजना बना रहा है, जो एक एआई गठबंधन है जिसकी स्थापना उसने अमेज़न, मेटा, ओपनएआई, माइक्रोसॉफ्ट और गूगल जैसी प्रमुख कंपनियों के साथ मिलकर की है। इस सहयोग का उद्देश्य अन्य कंपनियों को भी इसी तरह के सुरक्षा उपाय बनाने में मदद करना है।