OpenAI ने गलत सूचना से निपटने की योजना की रूपरेखा तैयार की

New Delhi: जैसा कि दुनिया भर के देश इस वर्ष चुनावों की तैयारी कर रहे हैं, ओपनएआई ने सूचना के स्रोत के आसपास पारदर्शिता को बढ़ावा देने पर ध्यान देने के साथ गलत सूचना से निपटने के लिए अपनी योजना की रूपरेखा तैयार की है। कंपनी ने कहा कि उसकी टीमें दुरुपयोग को रोकने, एआई-जनित सामग्री पर पारदर्शिता प्रदान करने और सटीक मतदान जानकारी तक पहुंच में सुधार करने के लिए काम कर रही हैं। ओपनएआई ने सोमवार को एक ब्लॉगपोस्ट में कहा, "हमारे पास चुनाव कार्य के लिए समर्पित एक क्रॉस-फंक्शनल प्रयास है, जो हमारी सुरक्षा प्रणालियों, खतरे की खुफिया जानकारी, कानूनी, इंजीनियरिंग और नीति टीमों की विशेषज्ञता को एक साथ लाकर संभावित दुरुपयोग की त्वरित जांच और समाधान करता है।"

कंपनी ने कहा कि वह प्रासंगिक दुरुपयोग को रोकने के लिए काम कर रही है - जैसे कि भ्रामक "डीपफेक", बड़े पैमाने पर प्रभाव संचालन, या उम्मीदवारों का प्रतिरूपण करने वाले चैटबॉट। ओपनएआई ने कहा, "नए सिस्टम जारी करने से पहले, हम उनकी रेड टीम बनाते हैं, फीडबैक के लिए उपयोगकर्ताओं और बाहरी साझेदारों को शामिल करते हैं और नुकसान की संभावना को कम करने के लिए सुरक्षा उपायों का निर्माण करते हैं।" एआई-जनित सामग्री के आसपास पारदर्शिता प्रदान करने के लिए, कंपनी ने कहा कि वह कई सिद्ध प्रयासों पर काम कर रही है।

इस साल की शुरुआत में, यह कंटेंट प्रोवेंस और ऑथेंटिसिटी के डिजिटल क्रेडेंशियल्स के लिए गठबंधन को लागू करेगा - एक दृष्टिकोण जो 'क्रिप्टोग्राफी' का उपयोग करके सामग्री की उत्पत्ति के बारे में विवरण को एनकोड करता है - DALL·E 3 द्वारा उत्पन्न छवियों के लिए। ओपनएआई एक प्रोवेंस क्लासिफायरियर के साथ भी प्रयोग कर रहा है — DALL·E द्वारा उत्पन्न छवियों का पता लगाने के लिए एक नया उपकरण। जैसा कि अमेरिका इस साल के अंत में राष्ट्रपति चुनाव के लिए तैयार है, चैटजीपीटी के निर्माता ने उल्लेख किया कि वे नेशनल एसोसिएशन ऑफ सेक्रेटरीज ऑफ स्टेट (एनएएसएस) के साथ काम कर रहे हैं, जो सार्वजनिक अधिकारियों के लिए देश का सबसे पुराना गैर-पक्षपाती पेशेवर संगठन है। कंपनी ने बताया, "चैटजीपीटी उपयोगकर्ताओं को कुछ प्रक्रियात्मक चुनाव-संबंधित प्रश्न पूछे जाने पर अमेरिकी मतदान जानकारी पर आधिकारिक वेबसाइट CanIVote.org पर निर्देशित करेगा - उदाहरण के लिए, कहां मतदान करना है।"