डीपफेक से लेकर बायोहथियार तक एआई द्वारा उत्पन्न खतरों के बारे में जाने

वाशिंगटन | बिडेन प्रशासन सबसे उन्नत एआई मॉडल के चारों ओर रेलिंग लगाने की प्रारंभिक योजना के साथ चीन और रूस से अमेरिकी एआई की सुरक्षा के अपने प्रयास में एक नया मोर्चा खोलने के लिए तैयार है, रॉयटर्स ने बुधवार को रिपोर्ट दी।

सरकारी और निजी क्षेत्र के शोधकर्ताओं को चिंता है कि अमेरिकी विरोधी उन मॉडलों का उपयोग कर सकते हैं, जो जानकारी को सारांशित करने और सामग्री उत्पन्न करने के लिए बड़ी मात्रा में पाठ और छवियों का उपयोग करते हैं, आक्रामक साइबर हमले करते हैं या यहां तक कि शक्तिशाली जैविक हथियार भी बनाते हैं।

एआई द्वारा उत्पन्न कुछ खतरे यहां दिए गए हैं:

डीपफेक और गलत सूचना

डीपफेक - प्रचुर मात्रा में ऑनलाइन फुटेज पर प्रशिक्षित एआई एल्गोरिदम द्वारा बनाए गए यथार्थवादी लेकिन मनगढ़ंत वीडियो - सोशल मीडिया पर सामने आ रहे हैं, जो अमेरिकी राजनीति की ध्रुवीकृत दुनिया में तथ्य और कल्पना को धुंधला कर रहे हैं।

जबकि इस तरह का सिंथेटिक मीडिया कई वर्षों से मौजूद है, पिछले एक साल में इसे मिडजर्नी जैसे कई नए "जेनरेटिव एआई" टूल द्वारा टर्बोचार्ज किया गया है, जो इसे सस्ता और विश्वसनीय डीपफेक बनाने में आसान बनाता है।

शोधकर्ताओं ने मार्च में एक रिपोर्ट में कहा कि OpenAI और Microsoft सहित कंपनियों के कृत्रिम बुद्धिमत्ता द्वारा संचालित छवि निर्माण उपकरण का उपयोग ऐसी तस्वीरें बनाने के लिए किया जा सकता है जो चुनाव या मतदान से संबंधित गलत सूचना को बढ़ावा दे सकती हैं, हालांकि दोनों के पास भ्रामक सामग्री बनाने के खिलाफ नीतियां हैं।

कुछ दुष्प्रचार अभियान झूठी सूचना प्रसारित करने के साधन के रूप में वास्तविक समाचार लेखों की नकल करने के लिए एआई की क्षमता का उपयोग करते हैं।

जबकि फेसबुक, ट्विटर और यूट्यूब जैसे प्रमुख सोशल मीडिया प्लेटफार्मों ने डीपफेक को प्रतिबंधित करने और हटाने के प्रयास किए हैं, लेकिन ऐसी सामग्री पर निगरानी रखने में उनकी प्रभावशीलता भिन्न-भिन्न है।

उदाहरण के लिए, पिछले साल, एक चीनी सरकार-नियंत्रित समाचार साइट ने जेनेरेटिव एआई प्लेटफॉर्म का उपयोग करते हुए पहले से प्रसारित झूठे दावे को आगे बढ़ाया था कि संयुक्त राज्य अमेरिका चीन के खिलाफ उपयोग के लिए जैविक हथियार बनाने के लिए कजाकिस्तान में एक प्रयोगशाला चला रहा था, होमलैंड सिक्योरिटी विभाग (डीएचएस) ) ने अपने 2024 होमलैंड खतरे के आकलन में कहा।

राष्ट्रीय सुरक्षा सलाहकार जेक सुलिवन ने बुधवार को वाशिंगटन में एक एआई कार्यक्रम में बोलते हुए कहा कि समस्या का कोई आसान समाधान नहीं है क्योंकि यह एआई की क्षमता को "राज्य, गैर-राज्य अभिनेताओं के इरादे, बड़े पैमाने पर दुष्प्रचार का उपयोग करने, बाधित करने" के साथ जोड़ती है। लोकतंत्र, प्रचार को आगे बढ़ाने के लिए, दुनिया में धारणा को आकार देने के लिए।"

उन्होंने कहा, "फिलहाल आक्रमण रक्षापंक्ति को बुरी तरह मात दे रहा है।"

bioweapons

अमेरिकी खुफिया समुदाय, थिंक टैंक और शिक्षाविद उन्नत एआई क्षमताओं तक पहुंच प्राप्त करने वाले विदेशी बुरे तत्वों द्वारा उत्पन्न जोखिमों के बारे में चिंतित हैं। ग्रिफ़ॉन साइंटिफिक और रैंड कॉर्पोरेशन के शोधकर्ताओं ने कहा कि उन्नत एआई मॉडल ऐसी जानकारी प्रदान कर सकते हैं जो जैविक हथियार बनाने में मदद कर सकती है।

ग्रिफ़ॉन ने अध्ययन किया कि कैसे बड़े भाषा मॉडल (एलएलएम) - कंप्यूटर प्रोग्राम जो प्रश्नों के उत्तर उत्पन्न करने के लिए भारी मात्रा में पाठ से तैयार होते हैं - का उपयोग शत्रुतापूर्ण अभिनेताओं द्वारा जीवन विज्ञान के क्षेत्र में नुकसान पहुंचाने के लिए किया जा सकता है और पाया कि वे "ऐसी जानकारी प्रदान कर सकते हैं जो सहायता कर सकती है इस मार्ग के प्रत्येक चरण में उपयोगी, सटीक और विस्तृत जानकारी प्रदान करके जैविक हथियार बनाने में एक दुर्भावनापूर्ण अभिनेता।"

उदाहरण के लिए, उन्होंने पाया कि एलएलएम एक महामारी-सक्षम वायरस के साथ काम करते समय समस्याओं के निवारण के लिए पोस्ट-डॉक्टरल स्तर का ज्ञान प्रदान कर सकता है।

रैंड अनुसंधान से पता चला कि एलएलएम जैविक हमले की योजना बनाने और उसे क्रियान्वित करने में मदद कर सकता है। उन्होंने पाया कि एक एलएलएम उदाहरण के लिए बोटुलिनम विष के लिए एयरोसोल वितरण विधियों का सुझाव दे सकता है।

साइबरहथियार

डीएचएस ने कहा कि साइबर कलाकार अपने 2024 होमलैंड खतरे के आकलन में पाइपलाइनों और रेलवे सहित महत्वपूर्ण बुनियादी ढांचे के खिलाफ "बड़े पैमाने पर, तेज, कुशल और अधिक आक्रामक साइबर हमलों को सक्षम करने" के लिए "नए उपकरण विकसित करने" के लिए एआई का उपयोग करेंगे।

डीएचएस ने कहा कि चीन और अन्य विरोधी एआई तकनीक विकसित कर रहे हैं जो अमेरिकी साइबर सुरक्षा को कमजोर कर सकती है, जिसमें मैलवेयर हमलों का समर्थन करने वाले जेनरेटिव एआई प्रोग्राम भी शामिल हैं।

नवीनतम गाने सुनें, केवल JioSaavn.com पर