Araştırmacılar seyrek otokodlayıcıların dil modellerine arka kapı açabildiğini gösterdi
Öne çıkanlar
- Kötü amaçlı seyrek otokodlayıcılar dil modelinin ağırlıklarını değiştirmeden arka kapı açabiliyor.
- Saldırı mekanizması yalnızca tek bir katmandaki kod çözücü bileşen üzerinde çalışıyor.
- Arka kapılı modeller geleneksel SAE kalite testlerinden küçük sapmalarla geçebiliyor.
Araştırmacılar, büyük dil modellerinin iç temsillerini yorumlamak ve yönlendirmek için kullanılan seyrek otokodlayıcıların (SAE) yeni bir tedarik zinciri saldırı yüzeyi oluşturduğunu tespit etti. Yayımlanan akademik çalışmaya göre, kötü niyetle değiştirilen bir SAE bileşeni, temel dil modeline hiç dokunulmadan ileri yayılım sürecine dahil edildiğinde saldırganın belirlediği davranışları tetikleyebiliyor.
Çalışmada geliştirilen yalnızca kod çözücü odaklı arka kapı yöntemi, hem temel dil modelini hem de SAE kodlayıcısını dondurarak saldırıyı tek bir katmandaki yardımcı bileşenle sınırlı tutuyor. Kod üretimi senaryosunu inceleyen ekip, üç farklı dil modelinde ve çok sayıda katmanda istenmeyen kod ekleme oranlarının yüksek seviyelere ulaştığını, belirli girdi ipuçlarıyla tetiklenen davranışların başarıyla çalıştığını gösterdi.
Değiştirilen modeller HumanEval ve SAEBench kıstaslarıyla incelendiğinde, güçlü arka kapı davranışlarının geleneksel kalite ölçütlerinde yalnızca küçük sapmalara yol açtığı belirlendi. Araştırma sonuçları, harici olarak paylaşılan ve modelleri denetlemek amacıyla sisteme eklenen SAE bileşenlerinin doğrudan güvenlik açısından hassas kabul edilmesi gerektiğini ortaya koyuyor.
Bu özet yapay zekâ ile hazırlanmıştır; ayrıntılar ve doğrulama için orijinal kaynağa başvurun.