सीनेटरों ने सेक्सुअल कंटेंट के कारण Apple, Google से X और Grok को हटाने का आग्रह किया

तीन डेमोक्रेटिक U.S. सीनेटर Apple और Alphabet के Google से X और उसके बिल्ट-इन आर्टिफिशियल इंटेलिजेंस चैटबॉट Grok को अपने ऐप स्टोर से हटाने के लिए कह रहे हैं। उनका कहना है कि इस प्लेटफॉर्म पर महिलाओं और नाबालिगों की बिना सहमति वाली सेक्सुअल तस्वीरें फैल रही हैं। शुक्रवार को पब्लिश हुए एक लेटर में, ओरेगन के सीनेटर रॉन वाइडेन, न्यू मैक्सिको के बेन रे लुजान और मैसाचुसेट्स के एडवर्ड मार्की ने कहा कि Google और Apple को "इन ऐप्स को ऐप स्टोर से तब तक हटाना होगा जब तक X के पॉलिसी वायलेशन को ठीक नहीं कर लिया जाता।" अरबपति एलन मस्क की मालिकी वाली X, पिछले हफ्ते से दुनिया भर के अधिकारियों की आलोचना का सामना कर रही है, जब Grok ने साइट पर महिलाओं और बच्चों की बिना सहमति वाली तस्वीरें डालना शुरू कर दिया, जिनमें वे रिवीलिंग बिकिनी, सी-थ्रू अंडरवियर पहने हुए थे, या अपमानजनक, हिंसक, या सेक्सुअल पोज़ में थे।

NBC न्यूज़ ने सबसे पहले सीनेटरों के लेटर की रिपोर्ट दी थी, जिसमें कहा गया था कि Google की सर्विस की शर्तें ऐप बनाने वालों को "ऐसा कंटेंट बनाने, अपलोड करने, या बांटने" से रोकती हैं जो बच्चों के शोषण या गलत इस्तेमाल को बढ़ावा देता है। उन्होंने कहा कि Apple की सर्विस की शर्तें "सेक्सुअल या पोर्नोग्राफ़िक मटीरियल" पर रोक लगाती हैं।

सीनेटरों ने कहा कि पहले भी, दोनों बड़ी टेक कंपनियों ने अपने प्लेटफ़ॉर्म से आपत्तिजनक ऐप्स को हटाने के लिए तेज़ी से कदम उठाए हैं।

लेटर में कहा गया, "X के बुरे बर्ताव को नज़रअंदाज़ करना आपके मॉडरेशन के तरीकों का मज़ाक उड़ाना होगा।"

Google और Apple ने कमेंट के लिए भेजे गए मैसेज का तुरंत जवाब नहीं दिया। X ने रॉयटर्स को 2 जनवरी की एक पोस्ट का ज़िक्र किया जिसमें कहा गया था कि साइट "X पर गैर-कानूनी कंटेंट के खिलाफ़ कार्रवाई करती है, जिसमें बच्चों का यौन शोषण करने वाला मटीरियल भी शामिल है।"

X की पेरेंट कंपनी xAI ने लेटर या ग्रोक के साफ़ आउटपुट के बारे में खास सवालों का जवाब नहीं दिया, सिर्फ़ अपना आम जवाब भेजा जिसमें बिना बताए "पुराने मीडिया झूठ" का ज़िक्र था।

सीनेटर का कहना है कि मस्क गंदी तस्वीरों से फ़ायदा उठाते हैं

मस्क ने बिकिनी में जाने-माने लोगों की AI से बदली हुई तस्वीरों पर हंसी-रोने वाले इमोजी के साथ जवाब दिया है और X की पॉपुलैरिटी के बारे में दिन में कई बार पोस्ट किया है। एक बार, उन्होंने अपने चैटबॉट से बने गैर-कानूनी कंटेंट के लिए यूज़र्स को दोषी ठहराया, और कहा: "कोई भी जो ग्रोक का इस्तेमाल गैर-कानूनी कंटेंट बनाने के लिए करेगा, उसे वही नतीजे भुगतने होंगे जो गैर-कानूनी कंटेंट अपलोड करने पर भुगतने पड़ते हैं।"

शुक्रवार को, ब्रिटिश टेक्नोलॉजी मिनिस्टर लिज़ केंडल ने कहा कि उन्हें उम्मीद है कि मीडिया रेगुलेटर ऑफ़कॉम X पर "कुछ दिनों में, हफ़्तों में नहीं" एक्शन लेगा, उन्होंने कहा कि अगर वे पालन करने में नाकाम रहे तो वॉचडॉग को भारी जुर्माना लगाने या ब्रिटेन से सर्विसेज़ ब्लॉक करने का भी अधिकार है।

उन्होंने कहा, "X को काबू में आने और इस मटेरियल को हटाने की ज़रूरत है।"

बढ़ते दबाव के साथ, मस्क की xAI, जो ग्रोक को ऑपरेट करती है और X की मालिक है, ग्रोक की पब्लिक इमेज बनाने पर कुछ रोक लगाती दिखी। X यूज़र्स की महिलाओं को डिजिटली बिकिनी में उतारने की पब्लिक रिक्वेस्ट पर एक मैसेज आया जिसमें कहा गया था कि इमेज एडिटिंग फंक्शनैलिटी "अभी सिर्फ़ पैसे देने वाले सब्सक्राइबर्स तक ही लिमिटेड है।"

X यूज़र्स अभी भी Grok टैब का इस्तेमाल करके सेक्शुअल इमेज बना सकते थे और फिर उन्हें X पर पोस्ट कर सकते थे। स्टैंडअलोन Grok ऐप, जो X से अलग चलता है, वह भी यूज़र्स को बिना सब्सक्रिप्शन के इमेज बनाने की इजाज़त दे रहा था।

रॉयटर्स यह पता नहीं लगा सका कि इन बदलावों से बिना सहमति वाली इमेज बनने पर कितना रोक लगी है, अगर लगी भी है तो।