Yapay zeka halüsinasyonu ABD ordusunu operasyonun eşiğine getirdi
Öne çıkanlar
- Yapay zeka botunun hatalı kargo analizi ABD ordusunu bir Çin gemisine saldırmanın eşiğine getirdi.
- Uçaklar havadayken istihbaratın sahte olduğu fark edildi ve operasyon son anda durduruldu.
- Hata, analistin açık kaynak verileri ile gizli istihbaratı modele özetletmesi sırasında oluştu.
ABD ordusuna ait savaş uçakları ilkbahar aylarında havadayken, bir Çin gemisine yönelik silahlı operasyon kararının bir yapay zeka sohbet robotunun ürettiği sahte istihbarata dayandığı anlaşıldı. CNN'in cuma günü yayımladığı habere göre operasyon son anda iptal edildi ve Çin ile yaşanabilecek olası bir askeri çatışmanın önüne geçildi. İran ile savaş sürecinde dolaşıma giren istihbarat raporunda, hedef alınan geminin bir nükleer silah programı için gerekli bileşenleri taşıdığı öne sürülmüştü.
Hatalı istihbarat, Özel Operasyonlar Komutanlığı bünyesinde çalışan bir analistin açık kaynak verileri ile gizli sinyal istihbaratını birleştirmek için yapay zeka aracını kullanmasıyla ortaya çıktı. Sohbet robotu geminin kargo manifestosunu yanlış yorumladı ve analist aynı aracı hatalı bulguları resmi bir özet haline getirmek için tekrar kullandı. Hata fark edilmeden önce hazırlanan sahte rapor komuta kademesinde hızla yayılarak onay zincirinden geçti.
Pentagon karar alma süreçlerini hızlandırmak ve operasyonel üstünlük sağlamak amacıyla yapay zeka entegrasyonunu sürdürüyor. GovAI araştırmacısı ve eski ordu subayı Jake Steckler, büyük dil modellerinin doğasında bulunan belirsizliğin anlaşılması gerektiğini, kuvvet kullanımı gerektiren kararlarda bu tür hataların ölümcül sonuçlar doğurabileceğini belirtti. Steckler, hızın güvenlik önlemlerinin önüne geçmesinin sistemlere duyulan güveni sarsacağını kaydetti.
Bu özet yapay zekâ ile hazırlanmıştır; ayrıntılar ve doğrulama için orijinal kaynağa başvurun.