Amazon Web Services (AWS), Aralık ayında Çin anakarasındaki bir hizmetinde 13 saatlik bir kesinti yaşadı. Financial Times'a göre, bu kesintiye Amazon'un yapay zeka kodlama asistanı Kiro'nun eylemleri neden oldu. Kiro'nun, üzerinde çalıştığı ortamı "silip yeniden oluşturma" kararı almasıyla kesinti meydana geldi. Normalde Kiro'nun değişiklikleri uygulamak için iki insan onayına ihtiyacı olmasına rağmen, bir insan hatası bot'a beklenenden daha fazla erişim izni verdi.
Amazon, bu olayı "son derece sınırlı bir olay" olarak nitelendirerek, Ekim ayındaki Alexa, Fortnite ve ChatGPT gibi çevrimiçi hizmetleri saatlerce etkileyen büyük kesintiyle kıyasladı. Şirket, sorunun kaynağının yapay zeka aracı değil, insan hatası olduğunu vurguladı. Amazon, olayın ardından personel eğitimi gibi "sayısız güvenlik önlemi" uyguladığını belirtti. Şirket, yapay zeka araçlarının olaya karışmasının bir "tesadüf" olduğunu ve "aynı sorunun herhangi bir geliştirici aracı veya manuel eylemle de ortaya çıkabileceğini" savundu.
Bu, Amazon'un yapay zeka kodlama araçlarının sorunlara yol açtığı ilk olay değil. Kıdemli bir AWS çalışanı, Aralık kesintisinin son birkaç ay içinde bir yapay zeka aracıyla bağlantılı ikinci üretim kesintisi olduğunu, bir diğerinin ise Amazon'un yapay zeka sohbet botu Q Developer ile ilişkili olduğunu ifade etti. Çalışan, bu kesintileri "küçük ama tamamen öngörülebilir" olarak tanımladı. Amazon, ikinci olayın "müşteri odaklı bir AWS hizmetini" etkilemediğini belirtti.
Amazon'un yapay zeka araçlarının neden olduğu sistem kesintileri, otomasyon ve insan denetimi arasındaki kritik dengeyi ve yapay zeka sistemlerinin beklenmedik davranışlarının potansiyel etkilerini gözler önüne seriyor.