Geliştirici Alexey Grigorev, yapay zeka aracı Claude Code'un, AWS üzerindeki üretim ortamını ve 2.5 yıllık kayıtları içeren veritabanını yanlışlıkla sildiğini açıkladı. Grigorev, AI Shipping Labs adlı web sitesini DataTalks.Club ile aynı altyapıyı paylaşacak şekilde AWS'ye taşımak için Claude'u kullanıyordu. Bu olay, yapay zeka destekli otomasyonun potansiyel risklerini ve geliştiricilerin dikkat etmesi gereken noktaları çarpıcı bir şekilde ortaya koydu.
Olay, Grigorev'in altyapı yönetimi için Terraform kullanırken, başlangıçta hayati önem taşıyan bir 'state file'ını yüklemeyi unutmasıyla başladı. Bu eksiklik, Claude'un yinelenen kaynaklar oluşturmasına neden oldu. Grigorev daha sonra 'state file'ını yüklediğinde, Claude mevcut altyapıyı doğru şekilde kurmak için mantıksal olarak bir 'destroy' (yok etme) komutu verdi. Ancak bu komut, DataTalks.Club web sitesi de dahil olmak üzere her iki sitenin tüm altyapısını, veritabanını ve yedek olarak güvenilen anlık görüntüleri anında sildi.
Neyse ki, Amazon Business desteği yaklaşık bir gün içinde verilerin geri yüklenmesine yardımcı oldu. Bu olayın ardından Grigorev, veritabanı geri yükleme testleri, Terraform ve AWS izinlerine silme korumaları uygulama ve Terraform 'state file'ını yerel makinesi yerine S3 depolamaya taşıma gibi önlemler aldı. Ayrıca, yapay zeka aracına Terraform komutlarını çalıştırma konusunda aşırı güvendiğini kabul ederek, artık her planı manuel olarak inceleyeceğini belirtti. Bu durum, yapay zeka otomasyonunda insan denetiminin kritik önemini vurguluyor.
Yapay zeka destekli otomasyon araçlarının kullanımında insan denetiminin ve güvenlik önlemlerinin ne kadar kritik olduğunu gösteren çarpıcı bir örnektir.