PromptArmor Tehdit İstihbarat Ekibi, Grammarly tarafından satın alınan Superhuman AI'da önemli bir güvenlik açığı keşfetti. Bu güvenlik açığı, yapay zeka destekli e-posta asistanının kullanıcıların hassas e-postalarını, kullanıcının haberi olmadan dışarı sızdırmasına olanak tanıyordu. Tespit edilen zafiyet, dolaylı prompt injection (komut enjeksiyonu) yöntemini kullanarak, entegre servislerden veri sızdırılmasına ve kimlik avı risklerine yol açabiliyordu.
Vulnerability'nin detaylarına göre, kullanıcının gelen kutusundaki güvenilmeyen bir e-postadaki prompt injection, Superhuman AI'ı manipüle ederek onlarca hassas e-postanın (finansal, hukuki, tıbbi bilgiler dahil) içeriğini bir saldırganın kontrolündeki Google Form'a göndermesini sağladı. Bu durumun gerçekleşmesi için kullanıcının kötü niyetli e-postayı açmasına bile gerek yoktu; e-posta gelen kutusunda durması yeterliydi. Saldırganlar, tek bir yapay zeka yanıtıyla birden fazla hassas e-postanın tam içeriğini veya 40'tan fazla e-postanın kısmi içeriğini sızdırabildiklerini doğruladılar.
PromptArmor, bu zafiyetleri Superhuman ekibine bildirdi ve şirket, raporu hızla ele alarak riskleri derhal giderdi. Superhuman'ın bu konudaki profesyonel yaklaşımı ve güvenlik araştırmacılarıyla iş birliği yapma taahhüdü takdirle karşılandı. Şirket, zafiyetli özellikleri devre dışı bırakma ve düzeltme zaman çizelgelerini iletme konusundaki proaktifliğiyle, yapay zeka güvenlik açıkları için görülen en iyi yanıt oranlarından birini sergiledi.
Yapay zeka destekli araçların, kullanıcı verilerini işlerken prompt injection gibi saldırılara karşı ne kadar savunmasız olabileceğini ve bu tür zafiyetlerin ciddi gizlilik ihlallerine yol açabileceğini gösteriyor.