CodeWall adlı siber güvenlik startup'ının araştırmacıları, geliştirdikleri bir yapay zeka ajanı kullanarak McKinsey'nin dahili yapay zeka platformu Lilli'yi sadece iki saat içinde hacklediklerini duyurdu. Bu olay, yapay zeka ajanlarının siber saldırılar için, özellikle de diğer yapay zeka sistemlerine karşı, giderek daha etkili bir araç haline geldiğini gösteriyor. Saldırı kötü niyetli olmasa da, tehdit avcıları kötü niyetli kişilerin gerçek dünya saldırılarında ajanları giderek daha fazla kullandığını belirtiyor.
McKinsey'nin Temmuz 2023'te kullanıma sunduğu üretken yapay zeka platformu Lilli, şirketin 40.000'den fazla çalışanının %72'si tarafından kullanılıyor ve ayda 500.000'den fazla komut işliyor. CodeWall'un otonom saldırı ajanı, McKinsey'nin sorumlu açıklama politikası ve Lilli'deki son güncellemeleri gerekçe göstererek hedef olarak McKinsey'yi seçti. Ajan, McKinsey'nin varlıkları için herhangi bir kimlik bilgisine sahip olmadan harekete geçti. İki saat içinde, araştırmacılar tüm üretim veritabanına tam okuma ve yazma erişimi elde ettiklerini iddia ettiler. Bu sayede strateji, birleşme ve satın almalar ile müşteri etkileşimleri hakkında 46,5 milyon sohbet mesajına, 728.000 gizli müşteri verisi içeren dosyaya, 57.000 kullanıcı hesabına ve yapay zekanın davranışını kontrol eden 95 sistem komutuna erişim sağladılar. Bu komutların yazılabilir olması, bir saldırganın Lilli'nin tüm danışmanlara sunduğu bilgileri zehirleyebileceği anlamına geliyordu.
CodeWall'un ajanı SQL injection güvenlik açığını Şubat sonunda buldu ve araştırmacılar saldırı zincirini 1 Mart'ta kamuoyuna açıkladı. McKinsey, ertesi gün tüm kimlik doğrulaması yapılmamış uç noktaları yamaladı, geliştirme ortamını çevrimdışına aldı ve genel API belgelerini engelledi. McKinsey sözcüsü, sorunları öğrendikten sonra saatler içinde tüm sorunların giderildiğini belirtti ve bağımsız bir adli tıp firmasının desteğiyle yapılan soruşturmada, araştırmacı veya başka yetkisiz üçüncü bir tarafça müşteri verilerine veya gizli bilgilere erişildiğine dair hiçbir kanıt bulunmadığını vurguladı.
Yapay zeka ajanlarının siber saldırılarda, özellikle de diğer yapay zeka sistemlerine karşı, ne kadar hızlı ve etkili olabileceğini gözler önüne seriyor.