Oltalama e-postaları yapay zeka asistanlarını hedef alıyor
Öne çıkanlar
- Saldırganlar, HTML yorumları ve sıfır genişlikli karakterlerle yapay zekaya gizli komutlar iletiyor.
- Yapay zeka asistanları, zararlı e-postaları kullanıcılara acil ödeme tavsiyesi olarak sunabiliyor.
- Uzmanlar, finansal işlemler ve hassas yetkiler için insan onayının şart olduğunu vurguluyor.
Siber saldırganlar, doğrudan kullanıcıları kandırmak yerine gelen kutularını özetleyen yapay zeka asistanlarını manipüle eden yeni oltalama yöntemleri geliştirdi. Güvenlik şirketi Barracuda tarafından yayımlanan araştırma, e-postalara eklenen gizli komutların yapay zeka sistemlerini yönlendirdiğini ortaya koydu. Kullanıcının görmezden geldiği zararlı bir e-posta, asistan tarafından öncelikli veya acil bir görev gibi sunulabiliyor.
Saldırganlar, dolaylı komut enjeksiyonu yöntemini kullanarak e-posta içeriklerine görünmeyen talimatlar yerleştiriyor. Barracuda uzmanları; HTML yorum satırları, görünmez yazı tipleri, özel kodlamalar ve sıfır genişlikli karakterler gibi gizleme tekniklerinin kullanıldığını tespit etti. Bu komutlar, yapay zekanın sahte bir faturayı onaylamasını veya tedarikçi banka bilgilerini değiştirilmesini tavsiye etmesini sağlayabiliyor.
Uzmanlar, yapay zeka modellerinin okunacak veri ile uygulanacak komut arasındaki farkı ayırt etmekte zorlandığını belirtiyor. Bu nedenle gelen kutularını tarayan araçların yetkilerinin sınırlandırılması ve özellikle finansal işlemlerde insan onayının zorunlu tutulması gerektiği vurgulanıyor.
Bu özet yapay zekâ ile hazırlanmıştır; ayrıntılar ve doğrulama için orijinal kaynağa başvurun.