न्यूयार्क: पूर्व राष्ट्रपति डोनाल्ड ट्रंप को दंगों की तैयारी कर रहे न्यूयार्क शहर के पुलिस अधिकारियों ने घेरा. रूसी राष्ट्रपति व्लादिमीर पुतिन जेल में एक मंद रोशनी वाले कंक्रीट सेल की सलाखों के पीछे ग्रे हैं।
अत्यधिक विस्तृत, सनसनीखेज छवियों ने हाल के दिनों में ट्विटर और अन्य प्लेटफार्मों पर बाढ़ ला दी है, इस खबर के बीच कि ट्रम्प संभावित आपराधिक आरोपों का सामना कर रहे हैं और अंतर्राष्ट्रीय आपराधिक न्यायालय ने पुतिन के लिए गिरफ्तारी वारंट जारी किया है।
लेकिन कोई भी दृश्य दूरस्थ रूप से वास्तविक नहीं है। छवियां - और सोशल मीडिया पर फैले विभिन्न प्रकार - कृत्रिम बुद्धि द्वारा संचालित तेजी से परिष्कृत और व्यापक रूप से सुलभ छवि जनरेटर का उपयोग करके उत्पादित किए गए थे। गलत सूचना विशेषज्ञ चेतावनी देते हैं कि छवियां एक नई वास्तविकता का अग्रदूत हैं: प्रमुख समाचार घटनाओं के बाद सोशल मीडिया पर नकली तस्वीरों और वीडियो की बाढ़ आ गई और समाज के लिए महत्वपूर्ण समय पर तथ्य और कल्पना को और अधिक उलझा दिया।
"यह संकट की घटनाओं के दौरान शोर जोड़ता है। यह निंदक के स्तर को भी बढ़ाता है, ”सिएटल में वाशिंगटन विश्वविद्यालय के एक प्रोफेसर जेविन वेस्ट ने कहा, जो गलत सूचना के प्रसार पर ध्यान केंद्रित करता है। "आप सिस्टम और आपको मिलने वाली जानकारी में विश्वास खोना शुरू करते हैं।"
जबकि तस्वीरों में हेरफेर करने और नकली छवियां बनाने की क्षमता नई नहीं है, मिडजर्नी, डीएएल-ई और अन्य द्वारा एआई इमेज जनरेटर टूल का उपयोग करना आसान है। वे जल्दी से यथार्थवादी छवियां उत्पन्न कर सकते हैं - विस्तृत पृष्ठभूमि के साथ पूर्ण - बड़े पैमाने पर उपयोगकर्ताओं से एक साधारण पाठ संकेत से थोड़ा अधिक।
हाल की कुछ छवियों को मिडजर्नी के टेक्स्ट-टू-इमेज सिंथेसिस मॉडल के एक नए संस्करण के इस महीने के रिलीज़ द्वारा संचालित किया गया है, जो अन्य बातों के अलावा, अब समाचार एजेंसी की तस्वीरों की शैली की नकल करने वाली ठोस छवियां उत्पन्न कर सकता है।
एक व्यापक रूप से प्रसारित ट्विटर थ्रेड में, नीदरलैंड स्थित खोजी पत्रकारिता सामूहिक बेलिंगकैट के संस्थापक एलियट हिगिंस ने ट्रम्प की काल्पनिक गिरफ्तारी की नाटकीय छवियों के स्कोर को आकर्षित करने के लिए टूल के नवीनतम संस्करण का उपयोग किया। हजारों बार शेयर और लाइक किए गए विजुअल्स में वर्दीधारी अधिकारियों की भीड़ को रिपब्लिकन अरबपति को पकड़ते हुए और हिंसक रूप से फुटपाथ पर नीचे खींचते हुए दिखाया गया है।
हिगिंस, जो पुतिन की गिरफ़्तारी की छवियों के एक सेट के पीछे भी थे, मुकदमे में डाल दिए गए और फिर कैद हो गए, का कहना है कि उन्होंने छवियों को बिना किसी बुरे इरादे के पोस्ट किया। यहां तक कि उन्होंने अपने ट्विटर थ्रेड में स्पष्ट रूप से कहा कि छवियां एआई-जेनरेट की गई थीं। हिगिंस के अनुसार, फिर भी, छवियां उसे मिडजर्नी सर्वर से लॉक करने के लिए पर्याप्त थीं।
हिगिंस ने एक ईमेल में लिखा, "ट्रम्प की गिरफ्तारी की छवि वास्तव में आकस्मिक रूप से दिखा रही थी कि मिडजर्नी वास्तविक दृश्यों को प्रस्तुत करने में कितना अच्छा और बुरा था।" "जैसे ही मैंने मिडजर्नी के संकेतों को जोड़ा, छवियों ने एक प्रकार की कथा का निर्माण करना शुरू कर दिया, इसलिए मैंने उन्हें एक कथा में जोड़ा, और कहानी को समाप्त करने का फैसला किया।"
उन्होंने बताया कि छवियां बिल्कुल सही नहीं हैं: कुछ में, ट्रम्प को अजीब तरह से पुलिस उपयोगिता बेल्ट पहने हुए देखा जाता है। दूसरों में, चेहरे और हाथ स्पष्ट रूप से विकृत होते हैं। लेकिन यह पर्याप्त नहीं है कि हिगिंस जैसे उपयोगकर्ता अपने पोस्ट में स्पष्ट रूप से कहते हैं कि छवियां एआई-जनित हैं और केवल मनोरंजन के लिए हैं, न्यूयॉर्क स्थित मानवाधिकार संगठन विटनेस के मीडिया टेक्नोलॉजिस्ट शिरीन एनलेन कहते हैं, जो दृश्य साक्ष्य पर ध्यान केंद्रित करता है।
बहुत बार, दृश्य उस महत्वपूर्ण संदर्भ के बिना दूसरों द्वारा जल्दी से साझा किए जाते हैं, उसने कहा। दरअसल, ट्रम्प की कुछ हिगिंस की छवियों को साझा करने वाली एक इंस्टाग्राम पोस्ट जैसे कि वे 79,000 से अधिक पसंद की गई थीं। "आप बस एक छवि देख रहे हैं, और एक बार जब आप कुछ देखते हैं, तो आप इसे नहीं देख सकते," एनलेन ने कहा।
एक अन्य हालिया उदाहरण में, सोशल मीडिया उपयोगकर्ताओं ने कथित रूप से पुतिन को घुटने टेकते हुए और चीनी नेता शी जिनपिंग के हाथ को चूमते हुए एक सिंथेटिक छवि साझा की। रूसी राष्ट्रपति द्वारा इस सप्ताह क्रेमलिन में शी का स्वागत करने के रूप में प्रसारित की गई छवि जल्द ही एक अपरिष्कृत मीम बन गई।
विशेषज्ञों का कहना है कि सिंथेटिक छवियों को वास्तविक चीज़ों से अलग करना कठिन होता जा रहा है, दृश्य गलत सूचना से निपटने का सबसे अच्छा तरीका बेहतर जन जागरूकता और शिक्षा है।