वाशिंगटन: मेटा ने बुधवार को कहा कि उसे अपने फेसबुक और इंस्टाग्राम प्लेटफॉर्म पर "संभवतः AI द्वारा जनित" सामग्री मिली है, जिसका इस्तेमाल भ्रामक तरीके से किया जा रहा है, जिसमें वैश्विक समाचार संगठनों और अमेरिकी सांसदों की पोस्ट के नीचे प्रकाशित गाजा में युद्ध से निपटने के लिए इजरायल की प्रशंसा करने वाली टिप्पणियां शामिल हैं।सोशल मीडिया कंपनी ने तिमाही सुरक्षा रिपोर्ट में कहा कि खातों ने यहूदी छात्रों, अफ्रीकी अमेरिकियों और अन्य चिंतित नागरिकों के रूप में खुद को पेश किया, जो संयुक्त राज्य अमेरिका और कनाडा में दर्शकों को लक्षित कर रहे थे। इसने अभियान का श्रेय तेल अवीव स्थित राजनीतिक विपणन फर्म STOIC को दिया।
STOIC ने आरोपों पर टिप्पणी के अनुरोध का तुरंत जवाब नहीं दिया।यह क्यों महत्वपूर्ण हैजबकि मेटा ने 2019 से प्रभाव संचालन में कृत्रिम बुद्धिमत्ता द्वारा उत्पन्न बुनियादी प्रोफ़ाइल फ़ोटो पाई हैं, रिपोर्ट 2022 के अंत में उभरने के बाद से अधिक परिष्कृत जनरेटिव AI तकनीकों के उपयोग का खुलासा करने वाली पहली रिपोर्ट है।शोधकर्ताओं ने चिंता जताई है कि जनरेटिव AI, जो जल्दी और सस्ते में मानव जैसा टेक्स्ट, इमेजरी और ऑडियो बना सकता है, अधिक प्रभावी गलत सूचना अभियान चला सकता है और चुनावों को प्रभावित कर सकता है।प्रेस कॉल में, मेटा सुरक्षा अधिकारियों ने कहा कि उन्हें नहीं लगता कि नवीन AI प्रौद्योगिकियों ने प्रभाव नेटवर्क को बाधित करने की उनकी क्षमता को बाधित किया है, जो संदेशों को आगे बढ़ाने के समन्वित प्रयास हैं।
अधिकारियों ने कहा कि उन्होंने राजनेताओं की AI-जनरेटेड इमेजरी को इतना वास्तविक नहीं देखा है कि उन्हें प्रामाणिक फ़ोटो के रूप में भ्रमित किया जा सके।मुख्य उद्धरण"इन नेटवर्क में ऐसे कई उदाहरण हैं कि वे सामग्री बनाने के लिए संभावित जनरेटिव AI टूलिंग का उपयोग कैसे करते हैं। शायद यह उन्हें ऐसा तेज़ी से करने या अधिक मात्रा में करने की क्षमता देता है। लेकिन इससे वास्तव में उन्हें पहचानने की हमारी क्षमता प्रभावित नहीं हुई है," मेटा के ख़तरे की जाँच के प्रमुख माइक डिविलांस्की ने कहा।संख्याओं के अनुसाररिपोर्ट में छह गुप्त प्रभाव संचालनों पर प्रकाश डाला गया है जिन्हें मेटा ने पहली तिमाही में बाधित किया।
STOIC नेटवर्क के अलावा, मेटा ने इज़राइल-हमास संघर्ष पर केंद्रित एक ईरान-आधारित नेटवर्क को बंद कर दिया, हालाँकि इसने उस अभियान में जनरेटिव AI के किसी भी उपयोग की पहचान नहीं की।संदर्भमेटा और अन्य तकनीकी दिग्गज इस बात से जूझ रहे हैं कि नई AI प्रौद्योगिकियों के संभावित दुरुपयोग को कैसे संबोधित किया जाए, खासकर चुनावों में।शोधकर्ताओं को ओपनएआई और माइक्रोसॉफ्ट जैसी कम्पनियों के इमेज जनरेटरों के उदाहरण मिले हैं, जो मतदान से संबंधित गलत सूचना वाले फोटो तैयार कर रहे हैं, जबकि इन कम्पनियों के पास ऐसी सामग्री के विरुद्ध नीतियां हैं।