स्कूल के बच्चे ने AI से बनाया क्लास की लड़की का न्यूड फोटो

बड़ी संख्या में लोग AI का इस्तेमाल कर रहे हैं, लेकिन कुछ लोग इसका दुरुपयोग भी कर रहे हैं। ऐसा ही एक मामला अमेरिका के न्यू जर्सी में देखने को मिला. वैसे तो ये मामला पुराना है लेकिन इन दिनों फिर से चर्चा में है. चर्चा की वजह है उन बच्चों का स्कूल लौटना.दरअसल, पीड़िता की मां का कहना है कि इस मामले में मुख्य आरोपी को कड़ी सजा नहीं मिली. रिपोर्ट्स की मानें तो इस मामले के सभी आरोपी अभी भी स्कूल आ रहे हैं और अपनी बेटी के साथ क्लास शेयर कर रहे हैं। इस मामले में स्कूल ने बच्चों की पहचान का हवाला देते हुए फोर्ब्स को जानकारी देने से इनकार कर दिया है.

क्या है पूरा मामला?

घटना पिछले साल 20 अक्टूबर की है, जब 14 साल की पीड़िता को मामले की जानकारी हुई. पीड़िता को पता चला कि उसके एक सहपाठी ने एक ऑनलाइन सेवा का उपयोग करके उसकी आपत्तिजनक तस्वीरें बनाई हैं। बाद में पता चला कि इस मामले में क्लास की कई लड़कियों की डीपफेक तस्वीरें बनाई गई थीं.ये तस्वीरें स्नैपचैट पर शेयर की गई थीं, जहां मैसेज अपने आप डिलीट हो जाता है। इसमें क्लास के कुछ लड़के शामिल थे. पीड़िता की मां का कहना है कि स्कूल ने इस मामले को ठीक से नहीं संभाला है. आपको बता दें कि यह पहला मामला नहीं है जिसमें एआई का दुरुपयोग किया गया हो।

एआई का दुरुपयोग हो रहा है

अब तक ऐसे कई मामले सामने आ चुके हैं, जिनमें एआई का इस्तेमाल लोगों को धोखा देने और डीपफेक वीडियो बनाने के लिए किया जा रहा है। एक्ट्रेस रश्मिका मंदाना का डीपफेक वीडियो भारत में वायरल हुआ था, जिस पर पुलिस ने एक्शन भी लिया था. इसके अलावा कई अन्य लोगों के डीपफेक वीडियो और तस्वीरें भी सामने आईं।

एआई का इस्तेमाल न सिर्फ लोगों को बदनाम करने के लिए बल्कि धोखाधड़ी करने के लिए भी किया जा रहा है। एआई वॉयस क्लोन की मदद से लोगों को ठगा जा रहा है। पिछले कुछ दिनों में ऐसे कई मामले देखने को मिले हैं. इसके अलावा डीपफेक वीडियो के जरिए भी लोगों को पुलिस के नाम पर डराया जा रहा है.आने वाले दिनों में डीपफेक एक बड़ी समस्या बन सकता है. इसका कारण किसी के भी वीडियो पर कोई भी ऑडियो डालने की क्षमता है। इस तकनीक का इस्तेमाल लोगों की छवि खराब करने के लिए किया जा सकता है। इनका दुरुपयोग खासतौर पर चुनाव के समय देखा जा सकता है।