AI किस प्रकार ऑनलाइन मौत की धमकियों को भयावह यथार्थवादी हमलों में बदल रहा

World विश्व: कलेक्टिव शाउट समूह की एक ऑस्ट्रेलियाई कार्यकर्ता, कैटलिन रोपर के लिए, ऑनलाइन धमकियाँ बेहद वास्तविक लग रही थीं। उनकी फांसी के फंदे से लटकी या ज़िंदा जलती हुई तस्वीरें एक्स और अन्य प्लेटफ़ॉर्म पर प्रसारित होने लगीं। जो चीज़ उन्हें असहनीय बनाती थी, वह थी उनकी सटीकता—उन्होंने उसी नीले रंग की फूलों वाली पोशाक को पहचान लिया जो वास्तव में उनकी थी। ये बेतरतीब मीम्स नहीं थे; ये एआई द्वारा उत्पन्न तस्वीरें थीं जिन्हें डराने के लिए बनाया गया था।

वैयक्तिकरण की शक्ति

कृत्रिम बुद्धिमत्ता की पहले ही आवाज़ों की क्लोनिंग या डीपफेक पोर्नोग्राफ़ी बनाने के लिए आलोचना हो चुकी है। अब, न्यूयॉर्क टाइम्स की रिपोर्ट के अनुसार, इसे वास्तविक धमकियाँ देने के लिए हथियार बनाया जा रहा है। विशेषज्ञों का कहना है कि जनरेटिव मॉडल धमकी को और अधिक विश्वसनीय और सुलभ बनाते हैं: एक तस्वीर भी उत्पीड़कों को हिंसक दृश्य बनाने की अनुमति दे सकती है। फ्लोरिडा विश्वविद्यालय की कानून की प्रोफेसर जेन बामबॉयर ने कहा, "कोई भी व्यक्ति जिसके पास कोई कौशल नहीं है, लेकिन बुरी नीयत है, अब इन उपकरणों का उपयोग कर सकता है।"

सस्ती तकनीक, ज़्यादा ख़तरा

डिजिटल रूप से नकली धमकियाँ कोई नई बात नहीं हैं—फ्लोरिडा की एक जज को 2023 में एक वीडियो मिला जिसमें उनकी हत्या का एक अवतार दिखाया गया था। लेकिन इसे बनाने की गति और आसानी में ज़बरदस्त इज़ाफ़ा हुआ है। एक YouTube चैनल पर महिलाओं को गोली मारने के दर्जनों वास्तविक AI क्लिप दिखाए गए थे, जिन्हें बाद में हटा दिया गया। एक अन्य मामले में, एक चैटबॉट ने कथित तौर पर एक उपयोगकर्ता को वकील पर हमला करने का तरीका बताया, यहाँ तक कि शव को छिपाने का तरीका भी बताया।

प्लेटफ़ॉर्म और सुरक्षा प्रणालियाँ आलोचनाओं के घेरे में

OpenAI के सोरा टेक्स्ट-टू-वीडियो टूल की जाँच तब हुई जब उपयोगकर्ताओं ने अति-यथार्थवादी, हिंसक क्लिप बनाए। OpenAI ने कहा कि वह सुरक्षा प्रणालियाँ और मॉडरेशन सिस्टम का इस्तेमाल करता है, लेकिन शोधकर्ताओं का तर्क है कि इन्हें आसानी से दरकिनार किया जा सकता है। X, जहाँ रोपर के प्रति दुर्व्यवहार की ज़्यादातर घटनाएँ हुईं, ने कुछ पोस्ट हटा दीं लेकिन कुछ को बरकरार रखा—यहाँ तक कि उन्हें एक दुर्व्यवहार करने वाले के अकाउंट की सिफ़ारिश भी की। जब उन्होंने सार्वजनिक रूप से धमकियाँ साझा कीं, तो प्लेटफ़ॉर्म ने उन्हें अस्थायी रूप से निलंबित कर दिया।

AI-संचालित "स्वैटिंग" का उदय

इसी तकनीक ने फ़र्ज़ी आपातकालीन कॉल को और भी विश्वसनीय बना दिया है। वॉइस क्लोनिंग और सिंथेटिक ऑडियो अब स्वैटर को गोलीबारी या संकटकालीन कॉल को नकली बनाने की अनुमति देते हैं जो असली लगते हैं। वाशिंगटन के एक स्कूल ज़िले को एक शूटर की AI-जनरेटेड रिपोर्ट के बाद बंद कर दिया गया था। ज़िले के सुरक्षा प्रमुख ब्रायन एस्मस ने पूछा, "कानून प्रवर्तन किसी ऐसी चीज़ पर कैसे प्रतिक्रिया देता है जो असली नहीं है?"

एक ऐसा ख़तरा जो असली लगता है - और असली दिखता भी है

AI ने उत्पीड़न के पुराने रूपों को एक आंतरिक चीज़ में बदल दिया है। पीड़ित अब स्क्रीन पर सिर्फ़ शब्द नहीं पढ़ रहे हैं; वे हमले के दौरान खुद की मनगढ़ंत तस्वीरें देख रहे हैं। कई लोगों के लिए, यह कल्पना और ख़तरे के बीच की रेखा को धुंधला कर देता है। जैसा कि रोपर ने कहा, "ये चीज़ें कल्पना से कल्पना से भी आगे जा सकती हैं।" डर यह है कि जैसे-जैसे तकनीक आगे बढ़ेगी, नुकसान भी बढ़ेगा।