Arcjet yapay zeka ajanlarının davranış sapmalarını Cloudflare Clef ile izliyor

Arcjet, yazılım geliştirme süreçlerinde kullanılan yapay zeka ajanlarının güvenliğini sağlamak amacıyla oturum düzeyinde davranış sapması analizi yapan yeni sistemini tanıttı. Claude Code, Codex ve GitHub Copilot gibi araçlar üzerinden çalışan ajanların yalnızca tekil komutlarını denetlemenin dolaylı komut enjeksiyonlarını engellemeye yetmediğini belirten şirket, çok adımlı oturumların tamamını izleyen bir altyapı kurdu. Bu mimari, üçüncü taraf API veya issue metinleri gibi güvenilmeyen kaynaklardan sızabilecek veri hırsızlığı girişimlerini oturum genelinde değerlendiriyor.

Sistem altyapısı, Cloudflare Workers ve Durable Objects bileşenleri üzerine inşa edildi. Her ajan oturumu için kullanıcıya en yakın noktada özel bir Durable Object oluşturuluyor ve işlemler sıralı olarak kaydedilerek gecikme süresi en aza indiriliyor. Oturum aktivitelerinin sırasını ve risk düzeyini analiz etmek için ise sohbet odaklı modeller yerine sayısal skor üreten Cloudflare Clef ve Clef Flash karar modelleri kullanılıyor. Bu modeller, ajan eylemlerini olasılık temelli puanlara dönüştürerek eşik değerlerine göre oturumu kısıtlıyor veya yönetici incelemesine sunuyor.

Geliştirici deneyimini korumak adına hatalı engellemelerin önüne geçecek özel kurallar uygulandı. Derleme klasörlerini silmek gibi zararsız görünen ancak şüpheli durabilen eylemler oturumu doğrudan kilitlemek yerine sadece uyarı listesine düşüyor. Modelin kendi önceki analiz çıktılarını okuyup yapay risk artışı yaratmasını engelleyen bağımsız bir skorlama döngüsü geliştiren Arcjet, kimlik bilgisi sızıntılarını tespit etmek için deterministik denetimler ile olasılıksal kararları Rego tabanlı güvenlik politikaları altında birleştirdi.