Anthropic damıtma saldırılarına karşı yeni savunma yöntemlerini açıkladı
Öne çıkanlar
- Yeni savunma yöntemleri damıtma yoluyla toplanan veri hacmini yüzde 90 ila 99 oranında düşürdü.
- İki aşamalı sınıflandırıcılar çıkarma girişimlerini yüzde 0,1'in altında yanlış pozitif oranıyla engelliyor.
- Anthropic damıtma amacıyla kullanılan on binlerce sahte hesabı iki saatten kısa sürede kapattı.
Anthropic, Claude modellerinin yeteneklerini kopyalamayı hedefleyen izinsiz damıtma (distillation) saldırılarına karşı kapsamlı yeni savunma mekanizmaları geliştirdiğini duyurdu. Şirket, bu yöntemlerin saldırganların elde ettiği veri miktarını yüzde 90 ile yüzde 99 arasında azalttığını açıkladı. Damıtma saldırılarında sahte hesap ağları üzerinden Claude'un ayrıntılı düşünme süreçleri hedefleniyor ve bu veriler daha küçük modellerin eğitiminde kullanılıyor.
Yetkisiz damıtmanın siber güvenlik ve ulusal güvenlik riskleri doğurduğunu belirten Anthropic, geliştirilen yeni savunma hattını üç ana mekanizma üzerine kurdu. Şirket; modeller arası düşünme bloklarının taşınmasını engelleyen korumalı düşünme sistemini devreye aldı, iki aşamalı anayasal sınıflandırıcılar ile çıkarma girişimlerini engelledi ve sahte hesapları hızla engelleyip engellenen talepleri ücretlendirerek saldırı maliyetlerini yükseltti.
Anthropic, bu önlemlerin trilyonlarca token'lık gelir kaybına yol açtığını ve meşru kullanıcıların da bazı entegrasyonlarını güncellemesini gerektirdiğini kaydetti. Çin merkezli Zhipu ve Moonshot gibi laboratuvarların Claude modellerinden yetenek çıkarma girişimlerini örnek gösteren şirket, güçlü modeller üreten tüm geliştiricilere ve bulut sağlayıcılarına benzer savunmaları uygulama çağrısında bulundu.
Bu özet yapay zekâ ile hazırlanmıştır; ayrıntılar ve doğrulama için orijinal kaynağa başvurun.