रेस विवाद के बाद गूगल का कहना है कि एआई इंजन 'अपना लक्ष्य चूक गया'

पूर्वाग्रह और अशुद्धि के मुद्दों पर व्यापक आलोचना का सामना करने के बाद, Google ने जेमिनी की छवि निर्माण क्षमताओं को अस्थायी रूप से रोकने का निर्णय लिया है - इसके नए एआई-संचालित चैटबॉट टूल का फरवरी की शुरुआत में अनावरण किया गया था।

गलत कदमों को स्वीकार करते हुए एक लंबे ब्लॉग पोस्ट में, Google के वरिष्ठ उपाध्यक्ष प्रभाकर राघवन ने कहा कि छवि निर्माण सुविधा स्पष्ट रूप से कुछ मामलों में आक्रामक, भ्रामक या तथ्यात्मक रूप से गलत छवियों का उत्पादन करके "निशान चूक गई"।

जेमिनी को लेकर विवाद इस महीने की शुरुआत में तब शुरू हुआ जब कई उपयोगकर्ताओं ने संस्थापक पिताओं और अन्य ऐतिहासिक शख्सियतों के बारे में संकेतों के जवाब में चैटबॉट द्वारा तैयार की गई छवियों को ऑनलाइन साझा किया।

आंकड़ों को सटीक रूप से चित्रित करने के बजाय, एआई-जनित छवियों में मूल अमेरिकी, काले, एशियाई और अन्य गैर-श्वेत जातीयताओं वाले लोगों को दर्शाया गया है। राघवन के अनुसार, छवि परिणामों में विविधता सुनिश्चित करने के लिए एआई सिस्टम को ट्यून करने के Google के प्रयासों ने अनजाने में इसे "कुछ मामलों में अतिरंजित" कर दिया।

उन्होंने इस बात पर ज़ोर दिया कि Google का इरादा इस टूल का किसी विशेष समूह के लोगों की छवियां बनाने से इनकार करने का नहीं था।

त्रुटियों के लिए माफी मांगते हुए, राघवन ने एआई को "विशाल संभावनाओं वाली उभरती हुई तकनीक" के रूप में दृढ़ता से बचाव किया, जिसे Google "सुरक्षित और जिम्मेदारी से लागू करने के लिए कड़ी मेहनत कर रहा है।"

हालाँकि, उन्होंने यह भी चेतावनी दी कि मतिभ्रम और अशुद्धियाँ एआई सिस्टम के साथ एक "ज्ञात चुनौती" हैं जिनमें निरंतर बदलाव और सुधार की आवश्यकता होती है।

फिलहाल, Google ने लोगों को चित्रित करने के लिए जेमिनी की छवि निर्माण क्षमताओं को पूरी तरह से अक्षम कर दिया है, जबकि इसकी टीमें अंतर्निहित मुद्दों को ठीक करने पर काम कर रही हैं।

राघवन ने कहा कि इस सुविधा को अंततः दोबारा लॉन्च करने से पहले व्यापक परीक्षण शामिल होगा। हालाँकि, उन्होंने कोई अपेक्षित समय-सीमा नहीं दी कि जेमिनी की छवि निर्माण कब वापस चालू किया जाएगा।

यह विवाद एआई पूर्वाग्रह के पहले महत्वपूर्ण मामलों में से एक है क्योंकि अधिक से अधिक जेनेरिक चैटबॉट मुख्यधारा के उपभोक्ताओं तक पहुंचते हैं। इसने तेजी से आगे बढ़ रही प्रौद्योगिकी में संभावित खामियों और कमजोरियों पर प्रकाश डाला, जो वर्तमान में सभी क्षेत्रों में एआई अनुप्रयोगों की नवीनतम लहर को शक्ति प्रदान कर रही है।