Pentagon yetkililerinin Palantir yapay zekasına aşırı güveni okul saldırısına yol açtı
Öne çıkanlar
- Centcom personeli, Palantir'in Maven yazılımının hatalı veya eski istihbarat verilerini otomatik ayıklayacağını varsaydı.
- Maven sistemi, karmaşık askeri operasyonlarda saatler süren hedef belirleme süreçlerini birkaç dakikaya indirdi.
- Pentagon genelindeki sivil zararı azaltma personeli sayısı yüzde 90 azaltılarak 20'nin altına düşürüldü.
Bloomberg tarafından yayımlanan kapsamlı bir haber, ABD ordusunun İran'daki bir kız ilkokulunu bombalayarak 100'den fazla çocuğun ölümüne neden olduğu saldırının arka planını ortaya çıkardı. Habere göre ABD Merkez Komutanlığı bünyesindeki askeri personel, Palantir Technologies tarafından geliştirilen Maven Smart System adlı yapay zeka yazılımına aşırı güvendi. Eski bir askeri tesis alanında bulunan ancak 2017'den beri uydu görüntülerinde oyun alanı açıkça seçilen ve internet aramalarında listelenen Şecere-i Tayyibe İlkokulu, güncellenmemiş veriler yüzünden sisteme hedef olarak girdi.
Palantir'in 150'den fazla veri akışını birleştirerek komutanlara hedef önerileri sunduğu Maven yazılımı, hedef belirleme sürecini saatlerden dakikalara indirdi. Soruşturmaya dahil olan kaynaklar, Centcom personelinin Maven'ın istihbarattaki eksiklikleri ve tutarsızlıkları otomatik olarak fark edip uyarı vereceğini varsaydığını belirtti. Palantir sözcüsü ise şirketin temel verilerden veya istihbarat eksikliklerini tespit etmekten sorumlu olmadığını ve yazılımda bir kusur bulunmadığını ifade etti.
Hedefleme zincirindeki denetim eksikliği, Pentagon'daki sivil zararı azaltma birimlerinin tasfiye edilmesiyle birleşti. Savunma Bakanlığı yönetimi altındaki bu birimlerin personel sayısı yaklaşık yüzde 90 azaltıldı ve Centcom'un denetim ekibi 10 kişiden tek bir personele düşürüldü. Minab kentindeki okul sahası saldırıdan önce hiçbir sivil zarar azaltma uzmanı tarafından incelenmedi ve yapay zekanın hızlandırdığı askeri süreç ölümcül bir felaketle sonuçlandı.
Bu özet yapay zekâ ile hazırlanmıştır; ayrıntılar ve doğrulama için orijinal kaynağa başvurun.