इंसानों जैसे पुलिस रोबोट न तो वास्तव में मानवीय हैं और न ही नैतिक रूप से जवाबदेह

रिसर्चर्स के अनुसार, ऐसे इंसान जैसे पुलिस रोबोट नहीं बनाए जा सकते जो ओपन-एंडेड पब्लिक एनकाउंटर्स में ऑफिसर्स की जगह ले सकें। उनका तर्क है कि पुलिसिंग के लिए सामाजिक समझ, नैतिक जजमेंट, अपनी मर्ज़ी का अधिकार और जवाबदेही की क्षमता की ज़रूरत होती है, जो मौजूदा और भविष्य के AI सिस्टम में असल में नहीं हो सकती।

उनका पेपर, जिसका टाइटल है पुलिस रोबोट इंसानों जैसे क्यों नहीं बनेंगे: सोशल इंटरैक्शन, मशीन एथिक्स और AI की सीमाएं, AI & Society में पब्लिश हुआ था। यह स्टडी उन बढ़ती पॉलिसी और टेक्नोलॉजी चर्चाओं को चुनौती देती है जो AI से चलने वाले लॉ एनफोर्समेंट रोबोट को एक उभरती हुई ऑपरेशनल सच्चाई के तौर पर दिखाती हैं, इसके बजाय यह तर्क देती है कि रोबोट छोटे कामों में पुलिस की मदद कर सकते हैं लेकिन सामाजिक रूप से जटिल पुलिसिंग में बराबर की भूमिका वाले एजेंट नहीं बन सकते।

पुलिसिंग के लिए ऐसे जजमेंट की ज़रूरत होती है जिसे कोड में नहीं बदला जा सकता।

वकील ऑफिसर की सुरक्षा, हिंसक एनकाउंटर्स में कम रिस्क, कम थकान, लगातार एनफोर्समेंट, भरोसेमंद रिकॉर्डिंग और बेहतर ऑपरेशनल एफिशिएंसी की ओर इशारा करते हैं। रोबोट थकते नहीं हैं, खतरनाक स्थितियों में तैनात किए जा सकते हैं, कंट्रोल्ड एरिया पर नज़र रख सकते हैं, और बिना इमोशनल एस्केलेशन के डी-एस्केलेशन स्क्रिप्ट को फॉलो कर सकते हैं।

हालांकि, लेखकों का तर्क है कि ये फायदे मुख्य रूप से छोटी और कंट्रोल्ड स्थितियों पर लागू होते हैं। समस्या तब शुरू होती है जब रोबोट से उम्मीद की जाती है कि वे खुली पब्लिक लाइफ में ऑफिसर की तरह काम करें, जहाँ किसी एनकाउंटर का मतलब शायद ही पहले से तय होता है।

पुलिसिंग बातचीत की काबिलियत पर निर्भर करती है। ऑफिसर को रियल टाइम में बातचीत, चुप्पी, डर, दुश्मनी, कन्फ्यूजन, धोखा, नशा, ट्रॉमा और विरोध को समझना होता है। एक रूटीन ट्रैफिक स्टॉप जल्दी ही एक मेडिकल इमरजेंसी, मेंटल हेल्थ क्राइसिस, भाषा की दिक्कत या हाई-रिस्क टकराव बन सकता है। वही इशारा कॉन्टेक्स्ट के आधार पर गुस्सा, घबराहट, बात मानना, कन्फ्यूजन या परेशानी दिखा सकता है।

ऑथर्स के अनुसार, AI सिस्टम इस तरह की इंसानी बातचीत में माहिर नहीं होते हैं। बड़े लैंग्वेज मॉडल फ्लूएंट जवाब दे सकते हैं, लेकिन फ्लूएंसी प्रैक्टिकल समझ के बराबर नहीं है। एक सिस्टम इरादों, सोशल नॉर्म्स, पावर रिलेशन, डर, ताना, या तनावपूर्ण एनकाउंटर में कही गई बात के प्रैक्टिकल नतीजों को भरोसेमंद तरीके से समझे बिना भी यकीन दिलाने वाली भाषा बना सकता है।

पुलिसिंग में यह लिमिटेशन बहुत ज़रूरी हो जाती है क्योंकि गलतियाँ ज़बरदस्ती को ट्रिगर कर सकती हैं। एक रोबोट जो किसी चीज़ को हथियार समझ लेता है, किसी इशारे को गलत समझकर धमकी समझ लेता है, या अधूरे इशारों से दुश्मनी का अंदाज़ा लगा लेता है, वह गलत तरीके से स्थिति को बढ़ा सकता है। इंसानी अफ़सर भी गंभीर गलतियाँ करते हैं, लेकिन लेखकों का तर्क है कि रोबोट की गलतियाँ अलग तरह से होती हैं। वे सेंसर की सीमाओं, ट्रेनिंग डेटा, मॉडल डिज़ाइन, सॉफ़्टवेयर आर्किटेक्चर, ऑपरेटर पर निर्भरता, या घटना के बाद की व्याख्या से हो सकती हैं, जिससे ज़िम्मेदारी का पता लगाना मुश्किल हो जाता है।

यह पेपर इस विचार को भी चुनौती देता है कि ज़्यादा डेटा, सेंसर, या बड़े AI मॉडल समस्या का समाधान करेंगे। सामाजिक मुलाकातों में, मुख्य मुश्किल सिर्फ़ डेटा कैप्चर करना नहीं है। यह जानना है कि कौन सी डिटेल्स मायने रखती हैं और बातचीत के बढ़ने के साथ उनका मतलब कैसे बदलता है। किसी व्यक्ति का लहजा, हिचकिचाहट, मुद्रा, सेटिंग, इतिहास, और पुलिस से रिश्ता, ये सभी उन्हीं शब्दों या कामों का मतलब बदल सकते हैं। इन बातों का पहले से पूरी तरह से अंदाज़ा या मॉडल नहीं बनाया जा सकता।

लेखकों के लिए, इंसानों जैसी पुलिसिंग के लिए रोबोट को यह तय करना होगा कि कब नियम लागू नहीं करना है, कब सज़ा देने के बजाय चेतावनी देनी है, कितना बल सही है, और हालात बदलने पर अपने काम कैसे बदलने हैं। ये सिर्फ़ इंजीनियरिंग के काम नहीं हैं। ये इंसानी फ़ैसले के ऐसे रूप हैं जो संस्थाओं, कानून, ट्रेनिंग, पब्लिक जांच और आम सामाजिक नियमों में शामिल हैं।

मशीन एथिक्स पुलिस-लेवल की नैतिक काबिलियत नहीं दे सकती।

कुछ AI एथिक्स फ्रेमवर्क पूछते हैं कि क्या मशीनों को नैतिक नियमों का पालन करने, रोक लगाने या नैतिक रूप से जानकारी वाले विकल्प चुनने के लिए डिज़ाइन किया जा सकता है। लेखकों का तर्क है कि ऐसे तरीके सिर्फ़ कुछ ही डोमेन में काम कर सकते हैं जहाँ ज़रूरी स्थितियों को साफ़ तौर पर दिखाया जा सके और एक्शन के विकल्प अच्छी तरह से तय हों।

पुलिसिंग अलग है क्योंकि इसमें ऐसी जगहों पर नैतिक फ़ैसले लेने होते हैं जहाँ अक्सर मूल्यों में टकराव होता है। सुरक्षा, गरिमा, अनुपात, दया, समानता, अधिकार और संयम, ये सभी एक साथ मायने रख सकते हैं। एक पुलिस अधिकारी को यह तय करने की ज़रूरत हो सकती है कि कोई व्यक्ति खतरनाक है, डरा हुआ है, मानसिक रूप से परेशान है, कन्फ्यूज़ है, विद्रोही है, या नियमों का पालन नहीं कर सकता है। इन फ़ैसलों को शायद ही कभी औपचारिक नियमों या ट्रेनिंग के उदाहरणों तक सीमित किया जा सकता है।

लेखक यह भी तर्क देते हैं कि सिर्फ़ कानूनी नियम पुलिसिंग के तरीके को नहीं समझ सकते। अधिकारी सिर्फ़ कानून को मशीनी तरीके से लागू नहीं करते। वे तय करते हैं कि क्या नोटिस करना है, नियमों का पालन कैसे करना है, कब दखल देना है, कब कार्रवाई में देरी करनी है, और कब कम सज़ा देने वाला जवाब ज़्यादा सही है। यह अपनी मर्ज़ी का काम पुलिसिंग के लिए ज़रूरी है, भले ही कभी-कभी इंसान इसका गलत इस्तेमाल करते हों।

एक रोबोट किसी इंसान के मुकाबले नियम को ज़्यादा लगातार लागू कर सकता है, लेकिन लगातार रहना और सही होना एक जैसा नहीं है। कुछ मामलों में, बहुत ज़्यादा लगातार रहने से सिस्टमैटिक अन्याय हो सकता है। एक रोबोट जो हर नियम तोड़ने को एक जैसा मानता है, वह कमज़ोरी, इमरजेंसी, डर, ज़बरदस्ती, गलतफहमी, या घटना के बड़े सामाजिक मतलब को पहचानने में नाकाम हो सकता है।

लेखकों का कहना है कि पुलिसिंग की लेजिटिमेसी प्रोसेस से जुड़े न्याय पर भी निर्भर करती है: क्या नागरिकों को लगता है कि उनकी बात सुनी गई, उनके साथ इज़्ज़त से पेश आया गया, उन्हें जवाब देने का सही मौका दिया गया, और उनके साथ सही बर्ताव किया गया। एक रोबोट बातचीत रिकॉर्ड कर सकता है, कमांड दे सकता है, या स्क्रिप्टेड एक्सप्लेनेशन दे सकता है, लेकिन इसका मतलब यह नहीं है कि एनकाउंटर को सही या जायज़ माना जाएगा।

पेपर में चेतावनी दी गई है कि पुलिस रोबोट को ज़्यादा इंसानों जैसा दिखाने से समस्या और बढ़ सकती है। इंसानों जैसा डिज़ाइन रोबोट को मिलनसार बना सकता है, लेकिन दिखने को समझने की गलती नहीं करनी चाहिए। एक मशीन जो सामाजिक रूप से काबिल दिखती है, वह ऐसे सिस्टम पर गलत भरोसा बढ़ा सकती है जो असल में इंसानी सामाजिक और नैतिक तर्क नहीं कर सकते।

स्टडी में AI के वहम और मॉडल की गलती के बारे में भी चिंता जताई गई है। भले ही भविष्य के सिस्टम ऐसी नाकामियों को कम कर दें, लेखकों का तर्क है कि कानून लागू करने वाली एजेंसियों में वहम को मामूली टेक्निकल परेशानी नहीं माना जा सकता। ज़बरदस्ती की मुठभेड़ों में, भरोसे वाला लेकिन गलत नतीजा बल प्रयोग के लिए ट्रिगर बन सकता है। यह रिस्क खास तौर पर गंभीर है क्योंकि पुलिस रोबोट हाई-स्टेक वाले माहौल में काम करेंगे जहाँ गलत मतलब निकालने से चोट लग सकती है, गैर-कानूनी तरीके से हिरासत में लिया जा सकता है या मौत हो सकती है।

जवाबदेही की कमियाँ ऑटोनॉमस पुलिस रोबोट को खतरनाक बनाती हैं

भले ही रोबोट कुछ पुलिसिंग के काम कर सके, स्टडी चेतावनी देती है कि ऑटोनॉमस सिस्टम अकाउंटेबिलिटी में कमी पैदा करेंगे। जब कोई इंसानी ऑफिसर गलती करता है, तो इन्वेस्टिगेटर ट्रेनिंग, बायस, जजमेंट, डिसिप्लिन, सोच, फैसले लेने और कमांड की ज़िम्मेदारी की जाँच कर सकते हैं। जब कोई AI-गाइडेड रोबोट गलती करता है, तो दोष डिज़ाइनरों, डेटा प्रोवाइडरों, सॉफ्टवेयर डेवलपर्स, पुलिस एजेंसियों, ऑपरेटरों, प्रोक्योरमेंट अधिकारियों और सुपरवाइज़रों पर फैल सकता है। इस फैलाव से नागरिकों के लिए फैसलों को चुनौती देना या सुधार माँगना मुश्किल हो सकता है।

यह पेपर उस रिस्क की ओर ध्यान खींचता है जिसे अकाउंटेबिलिटी स्कॉलर ज़िम्मेदारी की कमियाँ और नैतिक रूप से कमज़ोर ज़ोन कहते हैं। कॉम्प्लेक्स ऑटोमेटेड सिस्टम में, ज़िम्मेदारी सबसे पास के इंसानी ऑपरेटर पर आ सकती है, भले ही उस इंसान का सिस्टम के फ़ैसले पर लिमिटेड कंट्रोल हो। साथ ही, संस्थाएं मशीन की सलाह को ढाल की तरह इस्तेमाल कर सकती हैं, और नुकसान पहुंचाने वाले एक्शन को इंसानी पसंद के बजाय टेक्निकल फ़ैसले का नतीजा बता सकती हैं।

यह पुलिसिंग में खास तौर पर खतरनाक है क्योंकि सरकार की ज़बरदस्ती करने की ताकत को चुनौती देने लायक और जवाबदेह बनाए रखना चाहिए। एक रोबोट जो ज़बरदस्ती का इस्तेमाल करता है, ज़बरदस्ती की सलाह देता है, या किसी ऑफिसर के फ़ैसले को तय करता है, वह इंसानी अधिकार और मशीन के काम के बीच की लाइन को धुंधला कर सकता है। लेखक चेतावनी देते हैं कि AI सलाह पुलिस की हिंसा को ज़्यादा न्यूट्रल, टेक्निकल, या ज़रूरी बना सकती है, भले ही असल एक्शन नैतिक और कानूनी तौर पर विवादित हो।