Yapay zeka halüsinasyonu ABD ordusunu Çin gemisine operasyonun eşiğine getirdi

ABD ordusunun, bir yapay zeka aracının ürettiği hatalı istihbarat raporu yüzünden Çin'e ait bir kargo gemisine baskın düzenlemekten son anda vazgeçtiği bildirildi. CNN tarafından aktarılan bilgilere göre, ABD Özel Operasyonlar Komutanlığı bünyesinde görev yapan bir analist, Orta Doğu üzerinden geçen Çin gemisinin nükleer silah parçaları taşıdığına yönelik tamamen asılsız bir istihbarat raporu hazırladı. Hava desteğiyle gemiye çıkmaya ve müdahale etmeye hazırlanan ordu yetkilileri, operasyon başlamadan hemen önce rapordaki bilgilerin yapay zekanın uydurması olduğunu tespit etti.

Söz konusu analistin gemi manifestosuna dair verileri incelerken bir sohbet robotundan yararlandığı kaydedildi. İlgili yapay zeka aracının, açık kaynaklı istihbarat verileriyle hükümetin elindeki gizli sinyal istihbaratını harmanlarken taşınan malzemeyi yanlış tanımladığı belirtildi. Olayı aktaran kaynaklardan biri, yapay zeka kaynaklı bu hatanın iki ülke arasında doğrudan bir askeri çatışmayı neredeyse tetikleyeceğini söyledi. Hatanın erkenden fark edilmesiyle kriz büyümeden önlendi.

Büyük dil modellerinin eğitim verisinde yeterli bağlam bulamadığında gerçeğe aykırı bilgiler üretmesi askeri analiz süreçlerinde ciddi güvenlik riskleri barındırıyor. ABD Savunma Bakanlığı, ocak ayında tüm görev sistemleri genelinde yapay zeka kullanımını hızlandırma stratejisi duyurmuştu. Uzmanlar, yapay zeka halüsinasyonlarının tamamen engellenmesinin teknik olarak mümkün olmadığını belirterek askeri ve istihbari karar mekanizmalarında insan denetiminin hayati önem taşıdığını vurguluyor.