EmDash eklenti dizinini denetlemek için Clef modeline geçti
Öne çıkanlar
- EmDash, eklenti dizini denetiminde Cloudflare tarafından geliştirilen Clef modelini kullanıyor.
- Olasılık puanı 0,45 ve üzerine çıkan şüpheli içerikler insan operatör onayına yönlendiriliyor.
- Clef ile yapılan metin denetim testlerinde p95 gecikme süresi 1,64 saniye olarak ölçüldü.
EmDash, resmi eklenti dizinindeki tüm listelemeleri yayına almadan önce Cloudflare tarafından geliştirilen Clef karar modeliyle denetlemeye başladı. Çok modlu bir yapıya sahip olan Clef; eklentilerin meta verilerini, dış bağlantılarını, simgelerini ve ekran görüntülerini kimlik avı, taklit, dolandırıcılık ve zararlı içerik risklerine karşı tarıyor. AT Protocol altyapısını kullanan dizinde geliştiriciler sürümleri kendi hesaplarından yayımlamaya devam ederken, platform kataloğa girecek içerikleri bu denetim süzgecinden geçiriyor.
Sistem, metin ve bağlantılar için dokuz, simge ve görseller için ise sekiz ayrı soru üzerinden Clef modeline sorgu gönderiyor. Doğal dil üretmek yerine olasılık puanları döndüren model, belirlenen kategorilerden herhangi birinde 0,45 veya üzerinde bir risk puanı tespit ettiğinde içeriği doğrudan engellemek yerine insan operatörün onayına yönlendiriyor. Bağlantılar ekran görüntüsü yerine hedef adresi ve metni üzerinden incelendiği için güvenlik yazılımlarının görselleri hatalı biçimde işaretlenmiyor.
Önceki denetim hattında metin ve görsel ayrımı için birden fazla genel amaçlı model kullanan EmDash, Clef ile gecikme sürelerini belirgin şekilde düşürdü. Yapılan regresyon testlerinde model, 63 ayrı metin senaryosunda beklenen kararları verirken p95 gecikme süresini 1,64 saniye seviyesinde tuttu. Değişiklik eklenti geliştiricilerinin mevcut iş akışını veya yayınlama komut satırı adımlarını etkilemiyor.
Bu özet yapay zekâ ile hazırlanmıştır; ayrıntılar ve doğrulama için orijinal kaynağa başvurun.