Yapay zeka modellerini engellemek için KillSwitch programlama dili geliştirildi
Öne çıkanlar
- KillSwitch, dil modellerinin harf sayma zafiyeti ve güvenlik bariyerlerini hedefleyen kurallar içeriyor.
- Şartname ve yorumlayıcısı açık kaynak olarak GitHub üzerinden erişime açıldı.
- Basit görevleri içeren kıyaslama testlerinde en başarılı model 66,8 puana ulaştı.
Büyük dil modellerinin kodlama yeteneğinin gerçek bir kavrayıştan mı yoksa eğitim verilerini ezberlemekten mi kaynaklandığını test etmek amacıyla KillSwitch adlı deneysel programlama dili geliştirildi. İnsanların kullanabileceği ancak yapay zeka modelleri ile kodlama ajanlarını yanıltacak şekilde kurgulanan dil, açık kaynaklı olarak yayımlandı. Yığın tabanlı ve yorumlanan bir yapıya sahip olan dil, modellerin belirli zayıflıklarını hedef alıyor.
KillSwitch dili, dil şartnamesinde gizli yanıltıcı ifadeler barındırıyor ve modellerin harf sayma konusundaki zorluklarını temel kurallar arasına ekliyor. Betiklerdeki değişken adlarında belirli karakter sayıları zorunlu tutulurken, metinlerin arasına modelin güvenlik filtrelerini tetikleyecek veya talimat akışını bozacak komutlar yerleştiriliyor. Çalıştırılabilir kodlar hikaye benzeri gürültülü metinlerin içine gizleniyor ve satır numarası referanslarıyla yığına aktarılıyor.
Yayımlanan test sonuçlarına göre mevcut büyük dil modelleri dil üzerinde temel görevleri çözmekte zorlanıyor. 'Merhaba Dünya' yazdırma veya basit dönüşüm görevlerini içeren kıyaslama testlerinde en yüksek başarı puanı 66,8 seviyesinde kalırken, bazı modeller güvenlik filtrelerinin aşırı hassasiyeti nedeniyle başarısız oldu. Geliştirici, modeller geliştikçe daha karmaşık görev setleri hazırlamayı planlıyor.
Bu özet yapay zekâ ile hazırlanmıştır; ayrıntılar ve doğrulama için orijinal kaynağa başvurun.