Meta ने किशोरों को जोखिम भरे चैटबॉट इंटरैक्शन से बचाने के लिए एआई सुरक्षा उपायों को कड़ा किया

मेटा प्लेटफ़ॉर्म्स अपने आर्टिफिशियल इंटेलिजेंस सिस्टम के लिए और भी कड़े सुरक्षा उपाय लागू कर रहा है, जिसका उद्देश्य विशेष रूप से किशोरों को अनुचित चैटबॉट बातचीत से बचाना है। कंपनी ने पुष्टि की है कि वह नाबालिगों के साथ फ़्लर्ट या रोमांटिक आदान-प्रदान को रोकने और आत्म-क्षति और आत्महत्या जैसे संवेदनशील विषयों पर चर्चाओं को रोकने के लिए अपने एआई मॉडल को फिर से प्रशिक्षित कर रही है

पेटीएम ने यूपीआई बदलावों पर स्पष्टीकरण दिया: नियमित भुगतान सुरक्षित, केवल आवर्ती सब्सक्रिप्शन प्रभावित नए सुरक्षा उपाय किशोरों द्वारा बातचीत किए जा सकने वाले एआई पात्रों की संख्या को भी अस्थायी रूप से सीमित कर देंगे, क्योंकि मेटा सुरक्षित, आयु-उपयुक्त डिजिटल अनुभवों के लिए दीर्घकालिक समाधानों को परिष्कृत कर रहा है। यह घोषणा अगस्त की शुरुआत में रॉयटर्स की एक जाँच के बाद आई है जिसमें खुलासा हुआ था कि मेटा के एआई बॉट्स को कभी-कभी बच्चों के साथ रोमांटिक या उत्तेजक बातचीत करने की अनुमति दी जाती थी। इस खुलासे की संयुक्त राज्य अमेरिका भर के अभिभावकों, नियामकों और सांसदों ने व्यापक आलोचना की

। मेटा के प्रवक्ता एंडी स्टोन ने शुक्रवार को एक बयान में इन चिंताओं को स्वीकार किया। स्टोन ने कहा, "कंपनी किशोरों के लिए सुरक्षित और उम्र के अनुकूल एआई अनुभव सुनिश्चित करने के लिए दीर्घकालिक उपाय विकसित करते हुए ये अस्थायी कदम उठा रही है।" उन्होंने आगे कहा कि सुरक्षा उपाय पहले ही लागू किए जा चुके हैं और समय के साथ इनमें बदलाव किए जाएँगे। इस खुलासे से वाशिंगटन में दोनों दलों में आक्रोश फैल गया। अमेरिकी सीनेटर जोश हॉले ने इस महीने की शुरुआत में सोशल मीडिया दिग्गज की एआई नीतियों की औपचारिक जाँच शुरू की और उन दिशानिर्देशों के बारे में आंतरिक रिकॉर्ड और स्पष्टीकरण की माँग की

, जो चैटबॉट्स को ऐसे तरीकों से बातचीत करने की अनुमति देते हैं जिन्हें कई लोग बेहद अनुचित मानते हैं। डेमोक्रेटिक और रिपब्लिकन, दोनों सांसदों ने चिंता व्यक्त करते हुए चेतावनी दी कि ऐसी सुविधाएँ नाबालिगों को जोखिम में डाल सकती हैं। यह विवाद रॉयटर्स द्वारा समीक्षा किए गए एक आंतरिक मेटा दस्तावेज़ से उपजा है, जिसमें बताया गया था कि चैटबॉट्स को कम उम्र के उपयोगकर्ताओं के साथ "छेड़छाड़" करने और "रोमांटिक भूमिका निभाने" की अनुमति है। मेटा ने बाद में दस्तावेज़ की प्रामाणिकता की पुष्टि की, लेकिन ज़ोर देकर कहा कि यह एक गलती थी। स्टोन ने इस महीने की शुरुआत में कहा, "विवादित उदाहरण और नोट्स गलत थे और हमारी नीतियों के अनुरूप नहीं हैं, और उन्हें हटा दिया गया है।" इस प्रतिक्रिया ने मेटा पर यह दिखाने का दबाव बढ़ा दिया है कि वह युवा उपयोगकर्ताओं की सुरक्षा को लेकर गंभीर है,

खासकर जब कंपनी अपने सभी प्लेटफार्मों पर एआई-संचालित अनुभवों को आक्रामक रूप से आगे बढ़ा रही है। ये बदलाव नियामक जाँच से निपटते हुए जनता का विश्वास बहाल करने के प्रयास का प्रतिनिधित्व करते हैं। उद्योग विशेषज्ञों का सुझाव है कि मेटा का यह कदम एक रणनीतिक कदम भी है, क्योंकि कंपनी को एआई क्षेत्र में अन्य तकनीकी दिग्गजों से बढ़ती प्रतिस्पर्धा का सामना करना पड़ रहा है।

बच्चों की सुरक्षा सुनिश्चित करने से न केवल कंपनी को संभावित कानूनी परिणामों से सुरक्षा मिलती है, बल्कि एआई-संचालित आभासी सहायकों, पात्रों और अन्य इंटरैक्टिव सुविधाओं के साथ प्रयोग करते समय उसकी छवि को भी बनाए रखने में मदद मिलती है। हालाँकि नवीनतम उपायों को अस्थायी बताया जा रहा है, लेकिन ये मेटा के दृष्टिकोण में बदलाव का संकेत देते हैं, जिसमें किशोरों के साथ एआई की बातचीत पर सख्त निगरानी की ओर इशारा किया गया है। नई सीमाएँ निर्धारित करके, कंपनी माता-पिता और नियामकों को आश्वस्त करना चाहती है कि उसकी तकनीक सुरक्षा से समझौता किए बिना नवीन हो सकती है। फिलहाल, मेटा के चैटबॉट प्रतिबंध लागू हैं, और कंपनी ने आने वाले महीनों में उन्हें और बेहतर बनाने का संकल्प लिया है। असली परीक्षा यह होगी कि क्या ये सुरक्षा उपाय व्यवहार में प्रभावी साबित होते हैं - और क्या वे उन सांसदों को संतुष्ट करने के लिए पर्याप्त हैं जो इस बात को लेकर चिंतित हैं कि एआई बच्चों को ऑनलाइन कैसे प्रभावित या खतरे में डाल सकता है।