Trail of Bits yapay zeka yamalarındaki gerilemeleri denetleyen araçlarını duyurdu
Öne çıkanlar
- Birleştirilen 130'u aşkın yamada 21 işlevsel ve yapısal gerileme tespit edildi.
- regression-hunt eklentisi temel ajanlara göre yüzde 25 daha az yanlış pozitif bulgu bildirdi.
- Yeni araçlar her iddia için canlı dağıtımda çalışan kanıt zorunluluğu getirdi.
Siber güvenlik kuruluşu Trail of Bits, yazılım mühendislerinin yama geliştirme ve gerileme (regresyon) kontrollerini yapay zeka ajanlarına devretmesini sağlayan iki yeni eklentisini yayımladı. Patch the Planet girişimi kapsamında OpenAI ile geliştirilen patching-bugs ve regression-hunt isimli eklentiler, açık kaynak projelerde bildirilen güvenlik açıklarını doğrulamayı ve hazırlanan düzeltmelerin mevcut işlevleri bozmamasını güvence altına almayı hedefliyor. Şirket, Codex oturumlarından ve birleştirilmiş yüzlerce yamadan elde ettiği deneyimlerle ajanların hata yapma payını azaltan kurallar belirledi.
Kuruluşun 130'dan fazla birleştirilmiş yama üzerinde yaptığı geriye dönük inceleme, hiçbir güvenlik açığı yaratmasa da 21 gerilemenin sisteme girdiğini ortaya koydu. Bu gerilemelerin 16'sı işlevsel bozulmalardan, 4'ü derleme ve test aksaklıklarından, biri ise performans kaybından kaynaklandı. Yeni geliştirilen regression-hunt eklentisi, canlı sistem üzerinde çalışan kavram kanıtı (PoC) testleri uygulayarak temel Codex yaklaşımına kıyasla yüzde 25 daha az asılsız uyarı (yanlış pozitif) üretti.
Eklentilerin en iyi şekilde çalışması için depo yöneticilerinin projelerine güvenlik tehdit modellerini ve yama kurallarını içeren yapılandırma dosyaları eklemeleri gerekiyor. Trail of Bits, GPAC, liboqs ve validator.js gibi projelerde bu kuralları şimdiden uygulamaya koydu. Şirket, yapay zeka hızlanan güvenlik açığı keşif süreçlerine ayak uydurabilmek adına yama geliştirme adımlarını modüler ve doğrulanabilir şemalarla standartlaştırmayı sürdürecek.
Bu özet yapay zekâ ile hazırlanmıştır; ayrıntılar ve doğrulama için orijinal kaynağa başvurun.