अमेरिका में नाबालिगों के लिए 'एडिक्टिव' एआई चैटबॉट्स पर रोक लगाने वाला विधेयक पेश

वॉशिंगटन: अमेरिका की एक लॉमेकर ने ऐसा विधेयक पेश किया है, जिसके तहत एआई चैटबॉट बनाने वाली कंपनियों को नाबालिगों के लिए ऐसे फीचर उपलब्ध कराने से रोका जाएगा, जो भावनात्मक निर्भरता, अत्यधिक उपयोग और लत को बढ़ावा देते हैं।

वर्मोंट से डेमोक्रेटिक प्रतिनिधि बेका बालिंट द्वारा पेश किए गए 'एडिक्टिव डिज़ाइन एक्ट' के तहत उन कंपनियों पर जुर्माना लगाया जाएगा, जो नाबालिगों को एडिक्टिव डिजाइन वाले चैटबॉट उपलब्ध कराती हैं। यह विधेयक ऐसे समय में लाया गया है, जब किशोर मानसिक स्वास्थ्य संबंधी सहायता के लिए तेजी से एआई चैटबॉट्स का उपयोग कर रहे हैं। हालांकि, बालिंट के कार्यालय द्वारा जारी जानकारी के अनुसार, अधिकांश चैटबॉट्स इस तरह से डिजाइन नहीं किए गए हैं कि वे मानसिक स्वास्थ्य संकट से गुजर रहे किसी युवा को सुरक्षित और उचित प्रतिक्रिया दे सकें।

बालिंट ने कहा, "तकनीकी कंपनियों ने वर्षों तक यह सीखने में बिताया है कि लोगों का ध्यान कैसे आकर्षित किया जाए और उन्हें अधिकतम समय तक कैसे जोड़े रखा जाए। उन्हें यही रणनीति उन संवेदनशील बच्चों पर लागू करने की अनुमति नहीं दी जानी चाहिए, जो मानसिक स्वास्थ्य संकट के दौरान किसी एआई चैटबॉट का सहारा ले रहे हों।"

उन्होंने आगे कहा, "हम एआई के मामले में वही गलती नहीं दोहरा सकते। इससे पहले कि और परिवार इसके दुष्परिणाम झेलने को मजबूर हों, हमें स्पष्ट नियम, शोध और जवाबदेही सुनिश्चित करनी होगी।" विधेयक के तहत कंपनियों को ऐसे चैटबॉट्स नाबालिगों के लिए उपलब्ध कराने से रोका जाएगा, जिनमें ऐसे फीचर हों जो लत, अस्वस्थ भावनात्मक लगाव या अत्यधिक उपयोग को बढ़ावा देने के लिए जाने जाते हैं।

विधेयक में टाइपिंग बबल्स, अवतार और पिछली बातचीत से प्राप्त व्यक्तिगत जानकारी का संग्रह और उपयोग संभावित रूप से एडिक्टिव फीचर्स के रूप में चिन्हित किए गए हैं। इसके अलावा, बातचीत जारी रखने के लिए आगे और जुड़ाव या भुगतान की अनिवार्यता, दो घंटे से अधिक समय तक बातचीत की अनुमति देना और किसी वास्तविक व्यक्ति का प्रतिरूप प्रस्तुत करना भी इस श्रेणी में शामिल किया गया है।

प्रस्तावित प्रावधानों का उल्लंघन करने वाली कंपनियों पर प्रत्येक प्रभावित नाबालिग के लिए 5,000 डॉलर तक का सिविल जुर्माना लगाया जा सकता है। यह विधेयक एक अंतर-एजेंसी टास्क फोर्स के गठन का भी प्रावधान करता है, जो युवाओं में चैटबॉट्स के उपयोग से जुड़े मानसिक स्वास्थ्य जोखिमों से निपटने के उपायों की सिफारिश करेगी। साथ ही, वैज्ञानिक शोध के लिए 30 लाख डॉलर और माता-पिता तथा शिक्षकों को चेतावनी संकेतों की पहचान में मदद करने वाले जागरूकता कार्यक्रमों के लिए 50 लाख डॉलर की राशि अधिकृत करने का भी प्रस्ताव है।

कंपनियों को इस कार्यक्रम के तहत अनुदान प्राप्त करने वाले शोधकर्ताओं को आवश्यक डेटा उपलब्ध कराना होगा। यदि कोई कंपनी आवश्यक डेटा देने से इनकार करती है, तो उस पर 1 करोड़ डॉलर तक का जुर्माना लगाया जा सकता है।

विधेयक के अनुसार, आयु सत्यापन प्रणाली का उपयोग करने वाली कंपनियों को एकत्रित की जाने वाली जानकारी को न्यूनतम रखना होगा और उसे 24 घंटे के भीतर हटाना भी अनिवार्य होगा। सेंटर फॉर हेल्थ एंड डेमोक्रेसी की कार्यकारी निदेशक रेचल मैडली ने कहा, "एआई चैटबॉट्स को कभी भी इस तरह डिज़ाइन नहीं किया जाना चाहिए कि वे युवाओं को उनकी मानसिक सेहत की कीमत पर भावनात्मक रूप से निर्भर या लगातार जुड़े रहने के लिए प्रेरित करें।"

अमेरिकन साइकियाट्रिक एसोसिएशन की सीईओ और मेडिकल डायरेक्टर डॉ. मार्केटा एम. विल्स ने कहा कि एआई मानसिक स्वास्थ्य सेवाओं में सुधार ला सकता है, लेकिन इसका आधार वैज्ञानिक प्रमाण होने चाहिए।

उन्होंने कहा, "एआई चैटबॉट्स कभी भी डॉक्टर और मरीज के बीच के संबंध का स्थान नहीं ले सकते, क्योंकि सुरक्षित, साक्ष्य-आधारित और मरीज-केंद्रित उपचार के लिए यह संबंध अत्यंत आवश्यक है।" इस विधेयक को प्रतिनिधि क्रिस डेलूज़ियो, टॉम सुवोज़ी और बोनी वॉटसन कोलमैन का भी समर्थन प्राप्त है। इसके अलावा, कई मानसिक स्वास्थ्य, सामाजिक कार्य और उपभोक्ता अधिकारों से जुड़ी संस्थाओं ने भी इस विधेयक का समर्थन किया है।