ChatGPT में हथियारों और सुरक्षा सिस्टम से जुड़ी जानकारी पर सख्ती, हिंसक सवालों पर बंद हो सकती है चैट

नई दिल्ली: आर्टिफिशियल इंटेलिजेंस (AI) के बढ़ते इस्तेमाल के बीच OpenAI ने ChatGPT की सुरक्षा व्यवस्था को और सख्त करने का फैसला किया है। कंपनी अब हथियारों और सुरक्षा प्रणालियों से जुड़ी ऐसी व्यावहारिक जानकारियों पर रोक लगाने जा रही है, जिनका गलत इस्तेमाल किसी को नुकसान पहुंचाने के लिए किया जा सकता है। खासतौर पर किशोरों को ऐसी जानकारी मिलने से रोकने के लिए नए नियम बनाए जा रहे हैं।

कंपनी के मुताबिक, किसी सवाल को केवल उसके शब्दों के आधार पर सामान्य नहीं माना जाएगा। अगर उससे हथियारों के इस्तेमाल या किसी सुरक्षा व्यवस्था को नुकसान पहुंचाने के तरीके सामने आ सकते हैं, तो ChatGPT ऐसी जानकारी देने से परहेज करेगा। इसके अलावा हिंसा से जुड़ी बातचीत को नियंत्रित करने के लिए भी नए कदम उठाए जाएंगे।

हिंसा से जुड़ी बातचीत बढ़ने पर ChatGPT बंद करेगा चैट

OpenAI की नई व्यवस्था के तहत अगर कोई यूजर लगातार हिंसा, हमले या किसी व्यक्ति को नुकसान पहुंचाने से जुड़ी बातें करता है, तो ChatGPT उस बातचीत को बीच में ही रोक सकता है। इसका उद्देश्य ऐसी चर्चाओं को आगे बढ़ने से रोकना है, जिनसे वास्तविक दुनिया में नुकसान होने का खतरा हो।

कंपनी ने यह भी स्पष्ट किया है कि बार-बार नियमों का उल्लंघन करने वाले यूजर्स के अकाउंट पर कार्रवाई हो सकती है। ऐसे मामलों में अकाउंट को अस्थायी रूप से बंद किया जा सकता है। यानी केवल एक सवाल नहीं, बल्कि बातचीत का पूरा संदर्भ भी सुरक्षा व्यवस्था के तहत देखा जाएगा।

पुराने हमलों और जनसंहारों की जानकारी पर भी नियंत्रण

नए सुरक्षा उपायों का असर इतिहास से जुड़ी कुछ जानकारियों पर भी पड़ेगा। OpenAI पुराने सामूहिक हमलों और जनसंहारों के बारे में ऐसी विस्तृत जानकारी देने को सीमित करेगा, जिसका इस्तेमाल हिंसक गतिविधियों की तैयारी में किया जा सकता है।

उदाहरण के तौर पर, किसी हमले में इस्तेमाल किए गए हथियारों की संवेदनशील जानकारी या उन्हें हासिल करने के तरीकों से जुड़े विवरण अब उपलब्ध नहीं कराए जाएंगे। हालांकि, इतिहास की घटनाओं को समझने और उनके सामाजिक या राजनीतिक प्रभावों के बारे में सामान्य जानकारी देने का उद्देश्य अलग है।

अगले कुछ हफ्तों में शुरू होगा नए नियमों का रोलआउट

OpenAI के मुताबिक, नए सुरक्षा फीचर्स एक साथ लागू नहीं होंगे। इन्हें आने वाले कुछ हफ्तों में अलग-अलग चरणों में शुरू किया जाएगा। कंपनी इन बदलावों के असर पर नजर रखेगी और जरूरत पड़ने पर सुरक्षा नियमों में संशोधन भी करेगी। इसका मकसद ChatGPT का इस्तेमाल करते समय संभावित खतरों को पहचानना और नुकसान पहुंचाने वाली जानकारी को फैलने से रोकना है। खासकर कम उम्र के यूजर्स के मामले में कंपनी अतिरिक्त सावधानी बरतना चाहती है।

किशोर रोजाना 15 मिनट से भी कम करते हैं ChatGPT का इस्तेमाल

OpenAI ने इसी महीने किशोरों के ChatGPT इस्तेमाल को लेकर अपनी पहली रिपोर्ट भी जारी की थी। इसमें बताया गया कि किशोर यूजर्स औसतन रोजाना 15 मिनट से भी कम समय इस प्लेटफॉर्म पर बिताते हैं।

हालांकि, कंपनी का मानना है कि इस्तेमाल का समय कम होने का मतलब यह नहीं है कि सुरक्षा को लेकर चिंता की जरूरत नहीं है। कम उम्र के यूजर्स कई बार ऐसे सवाल पूछ सकते हैं, जिनका संबंध मानसिक स्वास्थ्य, हिंसा या खुद को नुकसान पहुंचाने जैसी गंभीर परिस्थितियों से हो सकता है।

पैरेंट्स की शिकायतों के बाद AI सुरक्षा पर बढ़ी चिंता

AI प्लेटफॉर्म पर बच्चों और किशोरों की सुरक्षा को लेकर दुनियाभर में चर्चा तेज हुई है। इसी बीच NGO कॉमन सेंस मीडिया की एक रिपोर्ट में ChatGPT के टीन वर्जन की सुरक्षा व्यवस्था पर सवाल उठाए गए थे। रिपोर्ट में कहा गया था कि आत्महत्या, खुद को नुकसान पहुंचाने और ईटिंग डिसऑर्डर जैसी गंभीर बातचीत के दौरान कई मामलों में माता-पिता को समय पर अलर्ट नहीं मिला। कुछ मामलों में सूचना देर से पहुंची, जबकि कुछ में पैरेंट्स को अलर्ट मिलने की बात सामने नहीं आई।

इस तरह की चिंताओं के बाद AI कंपनियों पर अपने प्लेटफॉर्म को सुरक्षित बनाने का दबाव बढ़ा है। OpenAI के नए कदम भी इसी दिशा में देखे जा रहे हैं। आने वाले समय में इन बदलावों से यह तय होगा कि ChatGPT किस तरह सामान्य जानकारी और संभावित रूप से नुकसान पहुंचाने वाले विवरणों के बीच अंतर करता है।