Stealthium yapay zeka modellerinde GPU bellek manipülasyonunu tespit etti
Öne çıkanlar
- ROME saldırıları diskteki dosyalara dokunmadan doğrudan GPU belleğindeki model ağırlıklarını manipüle ediyor.
- Klasik güvenlik yazılımları ağ, dosya veya süreç anomalisi üretmeyen bu saldırıları tespit edemiyor.
- Stealthium, CUDA çekirdek çağrılarını Python çağrı yığını ile ilişkilendirerek tensör değişikliklerini yakaladı.
Siber güvenlik girişimi Stealthium, yapay zeka modellerinin GPU belleğindeki ağırlıklarını hedef alan ROME saldırılarını inceleyen teknik bir araştırma yayımladı. Araştırma, zararlı Python kütüphanelerinin diskteki model dosyalarını değiştirmeden yalnızca GPU belleğinde işlem yaparak model yanıtlarını bozabileceğini gösterdi. Geleneksel uç nokta güvenlik araçlarının (EDR) süreç, dosya veya ağ anomalisi göremediği bu senaryoda saldırı tamamen meşru bir çıkarım işlemi gibi görünüyor.
Firma, geliştirdiği çalışma zamanı sensörüyle her CUDA çekirdek çağrısını Python çağrı yığınıyla eşleştirerek bellekteki manipülasyonu yakalamayı başardı. Deneyde ROME saldırısının temiz bir çıkarım sürecinde hiç görülmeyen ek CUDA çekirdekleri çalıştırdığı ve ağırlık matrislerini doğrudan güncellediği saptandı. Sensör, hem alışılmadık çekirdek çağrılarını hem de bu çağrıları tetikleyen Python fonksiyonlarını tespit ederek güvenlik ekiplerine doğrudan kaynak kod bağlamı sağladı.
Araştırmacılar, CUDA düzeyindeki izlemenin ötesine geçerek PyTorch gibi çatılardaki yerinde tensör değişikliklerini doğrudan izleyen yeni bir yöntem de geliştirdi. Model yükleme anındaki olağan bellek yazmaları ile çıkarım anında gerçekleşen kötü niyetli tensör yazmalarını çağırma yığınındaki fark üzerinden ayıran ekip, AI iş yükleri için doğrudan tensör seviyesinde güvenlik izlemesinin gerekliliğini vurguladı.
Bu özet yapay zekâ ile hazırlanmıştır; ayrıntılar ve doğrulama için orijinal kaynağa başvurun.