Science: कृत्रिम बुद्धिमत्ता (AI) का डर इतना स्पष्ट है कि तकनीकी दर्शन का एक पूरा स्कूल यह पता लगाने के लिए समर्पित है कि AI मानवता के अंत को कैसे ट्रिगर कर सकता है। किसी के भ्रम को बढ़ावा देने के लिए नहीं, लेकिन यहाँ उन समयों की सूची दी गई है जब AI ने आपदा का कारण बना - या लगभग आपदा का कारण बना।एयर कनाडा ने खुद को अदालत में पाया जब कंपनी के AI-सहायता प्राप्त उपकरणों में से एक ने शोक टिकट किराया सुरक्षित करने के लिए गलत सलाह दी। कानूनी कार्रवाई का सामना करते हुए, एयर कनाडा के प्रतिनिधियों ने तर्क दिया कि उनके चैटबॉट ने जो कुछ किया उसके लिए वे दोषी नहीं थे।
इस तरह के परिदृश्यों में संभावित प्रतिष्ठा को भारी नुकसान के अलावा, अगर चैटबॉट पर विश्वास नहीं किया जा सकता है, तो यह हवाई जहाज के टिकट खरीदने की पहले से ही चुनौतीपूर्ण दुनिया को कमजोर करता है। एयर कनाडा को त्रुटि के कारण लगभग आधा किराया वापस करने के लिए मजबूर होना पड़ा।न्यू यॉर्क शहर में आपका स्वागत है, वह महानगर जो कभी नहीं सोता और हाल के दिनों में सबसे बड़ी AI रोलआउट गलती वाला शहर। MyCity नामक एक चैटबॉट व्यवसाय मालिकों को अवैध गतिविधियाँ करने के लिए प्रोत्साहित करता पाया गया। चैटबॉट के अनुसार, आप अपने कर्मचारियों की टिप का एक हिस्सा चुरा सकते हैं, कैशलेस हो सकते हैं और उन्हें न्यूनतम वेतन से भी कम भुगतान कर सकते हैं।
2016 में, Microsoft ने Tay नामक एक Twitter बॉट जारी किया, जिसका उद्देश्य एक अमेरिकी किशोर के रूप में बातचीत करना था, जो आगे बढ़ते हुए सीखता था। इसके बजाय, इसने मौलिक रूप से अनुचित ट्वीट साझा करना सीख लिया। Microsoft ने इस विकास को अन्य उपयोगकर्ताओं पर दोषी ठहराया, जो Tay पर निंदनीय सामग्री की बौछार कर रहे थे। लॉन्च के एक दिन से भी कम समय में अकाउंट और बॉट को हटा दिया गया। यह AI प्रोजेक्ट के गलत दिशा में जाने के टचस्टोन उदाहरणों में से एक है।2023 में, स्पोर्ट्स इलस्ट्रेटेड पर लेख लिखने के लिए AI का उपयोग करने का आरोप लगाया गया था। इसके कारण एक कंटेंट कंपनी के साथ साझेदारी टूट गई और इस बात की जांच की गई कि यह कंटेंट कैसे प्रकाशित हुआ।