Anthropic ने पेंटागन की AI मांगों से पीछे क्यों हट गयाs
World विश्व: कंपनी के मुताबिक, पेंटागन क्लाउड — अपने खास AI मॉडल — तक ज़्यादा, कम शर्तों वाला एक्सेस चाहता था, बिना ऐसी कोई बाध्यकारी भाषा के जो पूरी तरह से ऑटोनॉमस हथियारों या बड़े पैमाने पर घरेलू निगरानी में इस्तेमाल पर साफ तौर पर रोक लगाती हो।
US डिफेंस डिपार्टमेंट ने कहा है कि उसका कभी भी क्लाउड का इस तरह इस्तेमाल करने का इरादा नहीं था। लेकिन खबर है कि उसने कॉन्ट्रैक्ट में उस रोक को लिखने से मना कर दिया। एंथ्रोपिक के लिए, यह फर्क मायने रखता था, वाशिंगटन पोस्ट ने बताया।
असहमति इस बात पर नहीं थी कि पेंटागन क्या करने की योजना बना रहा है। यह इस बारे में थी कि बाद में उसे कानूनी तौर पर क्या करने की इजाज़त मिल सकती है।
ऑटोनॉमस हथियार रेड लाइन क्यों हैं
एंथ्रोपिक के चीफ एग्जीक्यूटिव, डारियो अमोदेई ने लगातार यह तर्क दिया है कि AI सिस्टम को यह तय नहीं करना चाहिए कि जानलेवा ताकत का इस्तेमाल कब करना है। प्रैक्टिकल तौर पर, इसका मतलब है कि क्लाउड को ऐसे सिस्टम में एम्बेड नहीं किया जा सकता जो बिना किसी खास इंसानी निगरानी के टारगेट को चुनते और उन पर हमला करते हैं।
यह चिंता थ्योरेटिकल नहीं है। AI का इस्तेमाल पहले से ही इंटेलिजेंस ट्राइएज, थ्रेट एनालिसिस और बैटलफील्ड सिमुलेशन में किया जाता है। अगला कदम — मॉडल्स को टारगेटिंग पाइपलाइन में इंटीग्रेट करना — ठीक वहीं से लाइनें धुंधली होने लगती हैं।
एंथ्रोपिक का मानना है कि एक बार जब कोई मॉडल बिना किसी लागू करने लायक लिमिट के सौंप दिया जाता है, तो कंट्रोल डेवलपर से ऑपरेटर के पास चला जाता है। कंट्रोल का यह नुकसान ही वह चीज़ है जिसे उसने मानने से इनकार कर दिया।
सर्विलांस का सवाल भी उतना ही सेंसिटिव है।
दूसरा स्टिकिंग पॉइंट घरेलू मास सर्विलांस था। क्लाउड को बहुत ज़्यादा डेटा को प्रोसेस और समराइज़ करने के लिए डिज़ाइन किया गया है। सिविलियन सेटिंग में, इसका मतलब डॉक्यूमेंट रिव्यू या रिसर्च में मदद हो सकता है। सरकारी सेटिंग में, इसका मतलब US के निवासियों से जुड़े कम्युनिकेशन या बड़े डेटासेट का एनालिसिस करना हो सकता है।
पेंटागन का कहना है कि ऐसा इस्तेमाल कभी टेबल पर नहीं था। लेकिन फिर से, एंथ्रोपिक साफ़ कानूनी पाबंदियां चाहता था, न कि बोलकर भरोसा दिलाना।
यह देखते हुए कि AI सिस्टम को कितनी तेज़ी से दोबारा इस्तेमाल किया जा सकता है, कंपनी सिर्फ़ इरादे पर भरोसा करने को तैयार नहीं लगती।
डिफेंस डिपार्टमेंट के अंदर एक पॉलिटिकल पहलू।
कम्प्लायंस की डेडलाइन डिफेंस सेक्रेटरी पीट हेगसेथ के तहत तय की गई थी। इससे एंथ्रोपिक पर या तो मान जाने या भविष्य के मिलिट्री कॉन्ट्रैक्ट से बाहर होने का रिस्क लेने का दबाव पड़ा।
डिफेंस डिपार्टमेंट लॉजिस्टिक्स, साइबर डिफेंस और इंटेलिजेंस में AI का इस्तेमाल बढ़ा रहा है। उस इकोसिस्टम से बाहर होना कोई सिंबॉलिक नुकसान नहीं होगा; यह फाइनेंशियली और स्ट्रेटेजिकली फायदेमंद होगा।
एंथ्रोपिक के फैसले से पता चलता है कि उसने यह कैलकुलेट किया था कि अपने गार्डरेल्स से कॉम्प्रोमाइज करने पर शॉर्ट-टर्म डिफेंस रेवेन्यू खोने के मुकाबले लॉन्ग-टर्म कॉस्ट ज़्यादा होगी।
