Instagram-Facebook पर बच्चों की चैट पर AI की नजर
नई दिल्ली। सोशल मीडिया कंपनी Meta ने बच्चों और किशोरों की ऑनलाइन सुरक्षा को मजबूत करने के लिए नए सेफ्टी टूल्स लॉन्च किए हैं। कंपनी ने चुनिंदा ग्लोबल मार्केट्स में ऐसे फीचर्स पेश किए हैं, जिनकी मदद से पेरेंट्स को उस समय अलर्ट किया जाएगा, जब उनके बच्चे सोशल मीडिया या Meta AI के साथ मानसिक तनाव, आत्महत्या या खुद को नुकसान पहुंचाने जैसी संवेदनशील बातचीत करते हैं।
Meta का कहना है कि इन नए पैरेंटल सेफ्टी टूल्स का उद्देश्य बच्चों को ऑनलाइन खतरों से बचाना और समय रहते परिवार को जरूरी कदम उठाने में मदद करना है। कंपनी ने बताया कि वह Instagram सुपरविजन टूल्स का इस्तेमाल करने वाले माता-पिता को नोटिफिकेशन भेजेगी, अगर उनके टीनएजर बच्चे ने Meta AI के साथ सेल्फ-हार्म या सुसाइड से जुड़ी कोई बातचीत की है।
कंपनी के अनुसार, यह फीचर फिलहाल अमेरिका, ब्रिटेन, ऑस्ट्रेलिया और कनाडा जैसे देशों में उपलब्ध कराया गया है। Meta की योजना है कि आने वाले समय में इसे अन्य देशों में भी विस्तार दिया जाए।
Meta ने बताया कि उसने इस फीचर को तैयार करने के लिए मानसिक स्वास्थ्य विशेषज्ञों, पेरेंट्स और युवाओं के साथ मिलकर काम किया है। कंपनी का कहना है कि AI सिस्टम उन बातचीतों को पहचानने में सक्षम होगा, जिनमें कोई बच्चा सीधे या अप्रत्यक्ष रूप से खुद को नुकसान पहुंचाने का संकेत देता है।
Meta के मुताबिक, केवल संदिग्ध बातचीत मिलने पर ही तुरंत अलर्ट नहीं भेजा जाएगा। कंपनी पहले Meta AI द्वारा चिन्हित चैट्स की मैनुअल समीक्षा करेगी। यदि बातचीत से बच्चे के जोखिम में होने की संभावना दिखाई देती है, तो पेरेंट्स को इसकी जानकारी दी जाएगी और उन्हें विशेषज्ञों से जुड़ी सहायता सामग्री भी उपलब्ध कराई जाएगी।
कंपनी ने कहा कि कई बार बच्चे अपनी परेशानियों को सीधे शब्दों में नहीं बताते, बल्कि बातचीत के दौरान संकेत देते हैं। ऐसे छिपे हुए संकेतों को पहचानने के लिए विशेष AI सिस्टम तैयार किया गया है। इसका उद्देश्य बच्चों की निजता का सम्मान रखते हुए उनकी सुरक्षा सुनिश्चित करना है।
Meta पहले से ही Instagram पर कुछ सुरक्षा सुविधाएं उपलब्ध कराता है। अगर कोई टीनएजर बार-बार आत्महत्या या खुद को नुकसान पहुंचाने से जुड़े शब्दों को सर्च करता है, तो कंपनी उसे मानसिक स्वास्थ्य सहायता से जुड़ी जानकारी दिखाती है और जरूरत पड़ने पर पेरेंट्स या काउंसलर से संपर्क करने की सलाह देती है।
सोशल मीडिया कंपनी ने यह भी जानकारी दी कि वह एक नए फीचर पर काम कर रही है। इसके तहत अगर Meta AI की बातचीत से पता चलता है कि कोई व्यक्ति गंभीर रूप से आत्महत्या के खतरे में है, चाहे वह किशोर हो या वयस्क, तो आपातकालीन सेवाओं से संपर्क करने की सुविधा उपलब्ध कराई जा सकती है।
Meta का दावा है कि पिछले साल उसने दुनियाभर में 19 हजार से अधिक मामलों में क्राइसिस हेल्पलाइन और सहायता सेवाओं से लोगों को जोड़ा। कंपनी का कहना है कि इस तरह के कदमों का उद्देश्य उन लोगों तक समय पर मदद पहुंचाना है, जिन्हें इसकी सबसे ज्यादा जरूरत है।
कंपनी ने बताया कि Meta AI के मानसिक स्वास्थ्य से जुड़े जवाबों को बेहतर बनाने के लिए 75 से अधिक मानसिक स्वास्थ्य विशेषज्ञों से सुझाव लिए गए हैं। इसके अलावा AI वेलबीइंग एक्सपर्ट काउंसिल, सुसाइड एंड सेल्फ-हार्म एडवाइजरी ग्रुप और यूथ एडवाइजर्स के साथ भी मिलकर काम किया जा रहा है।
हालांकि, डिजिटल सुरक्षा विशेषज्ञों का मानना है कि बच्चों की ऑनलाइन सुरक्षा के साथ उनकी निजता का संतुलन बनाए रखना भी जरूरी है। AI आधारित निगरानी सिस्टम को इस तरह विकसित करना होगा कि वह जरूरतमंद बच्चों तक मदद पहुंचाए, लेकिन उनकी व्यक्तिगत जानकारी का गलत इस्तेमाल न हो।
Meta का यह कदम ऐसे समय में आया है, जब दुनियाभर में बच्चों और किशोरों पर सोशल मीडिया के मानसिक प्रभाव को लेकर चिंता बढ़ रही है। कंपनी का कहना है कि नए सुरक्षा फीचर्स का उद्देश्य पेरेंट्स को मजबूत बनाना और बच्चों को सुरक्षित डिजिटल वातावरण उपलब्ध कराना है।
अगर किसी व्यक्ति के मन में खुद को नुकसान पहुंचाने या आत्महत्या जैसे विचार आते हैं, तो तुरंत मदद लेना जरूरी है। भारत में मानसिक स्वास्थ्य सहायता के लिए टेली मानस हेल्पलाइन 1800-891-4416 और अन्य उपलब्ध हेल्पलाइन सेवाओं से संपर्क किया जा सकता है।
