Pigeon yapay zeka alt ajanlarının yetkilerini sınırlandırıyor
Öne çıkanlar
- Merkezi bir sunucu gerektirmeyen Pigeon, kriptografik olarak imzalanmış yerel yetki belgeleriyle çalışıyor.
- Alt ajanların üst ajanın sahip olmadığı yetkileri talep etmesi ayrıcalık yükseltme hatasıyla doğrudan engelleniyor.
- Doğrulama mekanizması Model Context Protocol araç çağrılarında yürütme öncesi yetki kontrolü sağlıyor.
Açık kaynaklı yeni bir güvenlik aracı olan Pigeon, yapay zeka sistemlerinde ana ajanların alt ajanlar oluştururken tam yetkili API anahtarlarını devretmesi sorununu çözmek amacıyla yayımlandı. Python 3.12 ve üzerini destekleyen kütüphane, geniş yetkilere sahip kimlik bilgileri yerine her alt ajana özel ve sınırlandırılmış dijital geçiş kartları (Pass) tanımlıyor. Böylece bir alt ajanın ana sistem yetkilerini kullanarak izinsiz üretim ortamına dağıtım yapması veya hassas veri tabanlarına erişmesi engelleniyor.
Sistem, merkezi bir sunucuya ihtiyaç duymadan tamamen yerel doğrulamayla çalışıyor. Geliştiriciler iki noktada müdahale ederek güvenliği sağlıyor: Alt ajan oluşturulurken yetkiler daraltılarak devrediliyor ve araç çağrılarında yürütme öncesi doğrulama adımı işletiliyor. Pigeon, alt ajanın üst ajanda bulunmayan bir yetkiyi almasını, kaynak kapsamını genişletmesini ya da mevcut kısıtlamaları kaldırmasını matematiksel olarak denetleyerek ayrıcalık yükseltme girişimlerini doğrudan reddediyor.
Model Context Protocol (MCP) gibi modern araç ekosistemleriyle uyumlu çalışan kütüphane, her araç çağrısı için dinamik yetki belgesi üretebiliyor. Yetkilendirme reddedildiğinde salt bir olumsuz yanıt yerine ayrıntılı hata kodu, açıklama ve başarısız olan karşılaştırma verisi sunuluyor. Geliştiriciler Pigeon'ın prompt enjeksiyonlarını durdurmadığını, yalnızca olası bir güvenlik ihlalinin etki alanını kesin sınırlar içinde tuttuğunu belirtiyor.
Bu özet yapay zekâ ile hazırlanmıştır; ayrıntılar ve doğrulama için orijinal kaynağa başvurun.