ChatGPT: एक नया फीचर जो आपको बताएगा कि आप नाबालिग हैं या नहीं

ChatGPT: OpenAI ने अपने ChatGPT कंज्यूमर प्लान में एक नया एज प्रेडिक्शन मॉडल रोल आउट करना शुरू कर दिया है। इसका मकसद 18 साल से कम उम्र के यूज़र्स की पहचान करना और उन्हें ज़्यादा सुरक्षित अनुभव देना है। कंपनी का कहना है कि यह सिस्टम अकाउंट और यूज़र के व्यवहार से जुड़े कई संकेतों के आधार पर काम करता है। अगर किसी यूज़र की उम्र 18 साल से कम पाई जाती है, तो ChatGPT अपने आप कुछ कंटेंट को सीमित कर देगा। OpenAI इसे बच्चों और किशोरों की सुरक्षा के लिए एक बड़ा कदम बता रहा है।

एज प्रेडिक्शन मॉडल कैसे काम करता है?

OpenAI के अनुसार, यह मॉडल जानकारी के सिर्फ़ एक हिस्से पर निर्भर नहीं करता है। यह अनुमान लगाने के लिए कई संकेतों का इस्तेमाल करता है, जिसमें अकाउंट कितने समय से एक्टिव है, यूज़र दिन के किस समय सबसे ज़्यादा एक्टिव रहता है, इस्तेमाल के पैटर्न और यूज़र द्वारा बताई गई उम्र शामिल है। इसके आधार पर, यह कंटेंट को सीमित करता है। कंपनी का कहना है कि यह तरीका ज़्यादा सटीक और संतुलित है। इसका लक्ष्य किसी की सटीक उम्र पता लगाना नहीं है, बल्कि यह पता लगाना है कि क्या अकाउंट 18 साल से कम उम्र के यूज़र का है।

अगर कोई यूज़र 18 साल से कम उम्र का है तो ChatGPT क्या बदलाव करेगा?

अगर सिस्टम यह तय करता है कि कोई यूज़र 18 साल से कम उम्र का है, तो ChatGPT अपने आप कुछ सुरक्षा फीचर्स लागू करेगा। इससे खुद को नुकसान पहुंचाने, हिंसक या ग्राफिक कंटेंट, जोखिम भरे ऑनलाइन ट्रेंड और संवेदनशील रोल-प्लेइंग से संबंधित जवाब सीमित हो जाएंगे। अनहेल्दी बॉडी इमेज या अनहेल्दी डाइट को बढ़ावा देने वाले कंटेंट को भी कम किया जाएगा। OpenAI का कहना है कि बच्चों और किशोरों को हानिकारक कंटेंट से बचाने के लिए ये बदलाव ज़रूरी हैं।

अगर यूज़र्स की पहचान गलत हो जाती है तो वे क्या कर सकते हैं?

OpenAI मानता है कि सिस्टम कभी-कभी गलत अनुमान लगा सकता है। ऐसे मामलों में, अगर किसी वयस्क यूज़र को गलती से 18 साल से कम उम्र का मान लिया जाता है, तो वे आइडेंटिटी वेरिफिकेशन के ज़रिए पूरी एक्सेस वापस पा सकते हैं। इसके लिए Persona नाम की आइडेंटिटी वेरिफिकेशन सर्विस का इस्तेमाल किया जाएगा, जिसका इस्तेमाल Roblox जैसी दूसरी टेक कंपनियाँ भी करती हैं। इससे यूज़र्स को भरोसा रहेगा कि उन पर गलत तरीके से कोई पाबंदी नहीं लगाई जाएगी।

पिछले कुछ महीनों में, OpenAI को बच्चों की सुरक्षा को लेकर बढ़ते दबाव का सामना करना पड़ा है। FTC सहित कई संगठन AI चैटबॉट का बच्चों पर पड़ने वाले असर की जाँच कर रहे हैं। यही वजह है कि कंपनी ने पैरेंटल कंट्रोल लागू करने, एक एक्सपर्ट काउंसिल बनाने और अब एज प्रेडिक्शन शुरू करने जैसे कदम उठाए हैं। OpenAI ने कहा है कि इस मॉडल में समय के साथ और सुधार किया जाएगा। यूरोपीय संघ में, इसे आने वाले हफ़्तों में स्थानीय नियमों के अनुसार लागू किया जाएगा।