Yapay zeka modellerinin gizli yetenekleri kriptografik olarak saklayabildiği kanıtlandı
Öne çıkanlar
- Model ağırlıklarına şifrelenen sinir ağları sadece gizli bir tetikleyiciyle aktif hale geliyor.
- Kriptografik kilitler, model ağırlıklarına tam erişim olsa dahi devrelerin tespitini engelliyor.
- Standart ince ayar ve gradyan taramaları gizlenen yetenekleri ortaya çıkaramadı.
Araştırmacılar, yapay zeka modellerinin içine şifrelenmiş yapay sinir ağları yerleştirerek istenen yeteneklerin denetimlerden tamamen gizlenebileceğini gösterdi. 9 Ekim 2026 tarihli çalışmada, modellerin ağırlıklarına gizlenen devrelerin yalnızca gizli bir tetikleyici sağlandığında çözülüp çalıştığı kanıtlandı. Bu mekanizma, yaygın güvenlik denetimlerinin kötü niyetli müdahaleler karşısında gizli yetenekleri ortaya çıkarma varsayımını geçersiz kılıyor.
Dijital kilit mekanizmalarından yararlanan yöntem, model ağırlıklarına tam erişim sağlansa bile kriptografik varsayımlar altında bu gizli devrelerin tespit edilmesini ve yorumlanmasını engelliyor. Araştırma ekibi, önceki çalışmaların yalnızca sabit metin dizilerini saklama sınırını aşarak rastgele hesaplamaları model içine gömmeyi başardı. PyTorch ile hazırlanan kavram kanıtlama modelleri, kimyasal reaksiyon tahmini görevi üzerinde kapsamlı güvenlik testlerine tabi tutuldu.
İnce ayar, ağırlıklara gürültü ekleme, gradyan tabanlı tetikleyici arama ve gizli çekişmeli eğitim gibi standart denetim yöntemleri gizli yetenekleri ortaya çıkarmada başarısız oldu. Araştırmacılar, bu kriptografik güvencelerin mevcut yetenek denetimlerinin sınırlarını net biçimde gösterdiğini açıkladı. Savunma mekanizmalarının geliştirilmesini desteklemek amacıyla çalışma kapsamında üretilen modeller kamuya açık şekilde paylaşıldı.
Bu özet yapay zekâ ile hazırlanmıştır; ayrıntılar ve doğrulama için orijinal kaynağa başvurun.