Amazon'un bulut birimi Amazon Web Services (AWS), kendi yapay zeka araçlarından kaynaklanan hatalar nedeniyle en az iki kez hizmet kesintisi yaşadı. Bu durum, bazı çalışanların ABD'li teknoloji devinin bu kodlama asistanlarını yaygınlaştırma çabalarına şüpheyle yaklaşmasına neden oldu. Aralık ortasında, mühendislerin Kiro adlı yapay zeka kodlama aracının belirli değişiklikler yapmasına izin vermesi üzerine, müşteriler tarafından kullanılan bir sistemde 13 saatlik bir kesinti meydana geldi. Konuya yakın dört kaynağa göre, otonom eylemler gerçekleştirebilen bu aracı araç, en iyi çözümün "ortamı silip yeniden oluşturmak" olduğuna karar verdi.
Amazon, müşterilerin hizmet maliyetlerini keşfetmesine olanak tanıyan AWS sistemindeki bu "kesinti" hakkında dahili bir olay sonrası raporu yayınladı. Birden fazla Amazon çalışanı, Financial Times'a yaptığı açıklamada, son aylarda grubun yapay zeka araçlarından birinin hizmet kesintisinin merkezinde yer aldığı ikinci olay olduğunu belirtti. Kıdemli bir AWS çalışanı, "Son birkaç ayda en az iki üretim kesintisi yaşadık. Mühendisler, yapay zeka aracının müdahale olmadan bir sorunu çözmesine izin verdi. Kesintiler küçüktü ama tamamen öngörülebilirdi" dedi.
Amazon'un işletme kârının yüzde 60'ını oluşturan AWS, insan talimatlarına dayanarak bağımsız eylemler gerçekleştirebilen "aracı" yapay zeka araçları geliştirmeye ve dağıtmaya çalışıyor. Birçok büyük teknoloji şirketi gibi, bu teknolojiyi dış müşterilere de satmayı hedefliyor. Bu olaylar, gelişmekte olan bu yapay zeka araçlarının yanlış davranma ve kesintilere neden olma riskini vurguluyor. Amazon ise, "yapay zeka araçlarının olaya karışmasının bir tesadüf olduğunu" ve "aynı sorunun herhangi bir geliştirici aracı veya manuel eylemle de meydana gelebileceğini" savundu.
Yapay zeka araçlarının otonom karar alma yeteneklerinin, beklenmedik sistem kesintilerine yol açabileceği ve bu teknolojinin yaygınlaşmasında dikkatli olunması gerektiğini gösteriyor.