गूगल इमेज का नस्लवाद

NI एडिटोरियल: कहा जाता है कि हर तस्वीर में एक संदेश होता है। इसलिए अगर जर्मन प्रसारण संस्था- डॉयरे वेले अपने एक अध्ययन से इस निष्कर्ष पर पहुंचा है कि गूगल इमेज पर दिखने वाली किसी तस्वीरें इस कंपनी के नस्लवादी नजरिए को साबित करती हैं, तो इस बात को गंभीरता से लिया जाना चाहिए। डॉयचे वेले 20,000 से अधिक तस्वीरों और वेबसाइटों का विश्लेषण किया। वह इस नतीजे पर पहुंचा कि दुनिया की सबसे बड़ी टेक कंपनी गूगल का एल्गॉरिदम पूर्वाग्रहों पर आधारित हैं। गूगल पर ब्राजील की महिला, थाईलैंड की महिला या यूक्रेन की महिला कीवर्ड के सर्च नतीजे, अमेरिका की महिला कीवर्ड से किए गए सर्च नतीजे की तुलना में ज्यादा नस्लवादी हैं। मसलन, अमेरिका या जर्मनी की महिलाएं यानी विकसित देशों की महिलाओं के बारे में सर्च करने पर राजनेताओं और एथलीट्स की ज्यादा तस्वीरें दिखती हैं।

इसके उलट ब्राजील की महिला कीवर्ड के साथ सर्च करने पर स्वीमिंग सूट पहने और सेक्सी पोज देती युवा महिलाओं की तस्वीरों से स्क्रीन पट जाती है। डॉयचे वेले के विश्लेषण में हजारों तस्वीरों की कैटगरी तय करने के लिए गूगल के "क्लाउड विजन सेफ सर्च" का इस्तेमाल किया गया। यह एक कंप्यूटर विजन सॉफ्टवेयर है, जो अश्लील या अपमानजनक कॉन्टेंट का पता लगा सकता है। आम तौर पर इसका इस्तेमाल तस्वीरों पर "रेसिस्ट" टैग लगाने के लिए होता है। गूगल की परिभाषा के मुताबिक तस्वीरों को नस्लीय या अश्लील के तौर पर टैग करने के लिए 'बहुत छोटा या पारदर्शी पहनावा, जानबूझ कर नग्नता फैलाने वाला, कामुक और उकसाने वाले पोज, शरीर के संवेदनशील हिस्सों को उभारने वाली तस्वीरों को शामिल किया जाता है।' खुद इसी परिभाषा के मुताबिक गूगल सर्च के दौरान विकासशील देशों के महिलाओं की तस्वीरें सबसे ऊपर आती हैं।लैटिन अमेरिका की महिलाओं के साथ ही पूर्वी यूरोप और दक्षिण पूर्वी एशिया की महिलाओं को इसी रूढ़िवादी मानसिकता के साथ पेश किया जाता है। डॉयचे वेले की समीक्षा से यह भी पता चला कि कुछ देशों की महिलाओं को गूगल सर्च में पूरी तरह से सेक्स ऑब्जेक्ट के तौर पर पेश किया जाता है। यूक्रेन की महिला को लेकर किए गए सर्च के 100 में 61 नतीजे इसी तरह के थे। चेक गणराज्य, मोल्दोवा और रोमानिया जैसे देशों के लिए सर्च के नतीजे भी इसी तरह के रहे। गूगल की इस पर सफाई सामने नहीं आई है। लेकिन तकाजा यह है कि वह स्पष्टीकरण ही ना दे, बल्कि अपने एल्गोरिद्म में वास्तविक सुधार करे।