Cloudflare açık kaynaklı karar modelleri Clef serisini duyurdu
Öne çıkanlar
- Clef ve Clef-flash modelleri Apache 2.0 lisansıyla Hugging Face üzerinde açık kaynak olarak yayımlandı.
- Modeller otoregresif metin üretimi yerine şema seçeneklerini paralel puanlayarak medyan 38,8 milisaniyeye kadar gecikme sunuyor.
- Clef serisi 64 bin belirteç bağlam penceresi ve görsel kodlayıcı desteğiyle çok modlu sınıflandırma yapıyor.
- Cloudflare, kurumsal müşterilerin modelleri özelleştirmesi için yeni bir pekiştirmeli öğrenme hizmeti başlattı.
Cloudflare, yapay zeka ajanlarının karar alma süreçlerini hızlandırmak ve düşük maliyetli yapılandırılmış çıktılar üretmek amacıyla geliştirdiği Clef ve Clef-flash adlı açık kaynaklı karar modellerini yayımladı. Şirket, Apache 2.0 lisansıyla Hugging Face üzerinde paylaştığı modelleri aynı zamanda Workers AI altyapısında da kullanıma sundu. Büyük dil modellerinin belirirsiz ve yavaş metin üretimi yerine yalnızca belirli olasılık dağılımlarını hesaplayan Clef ailesi, Jev API ile tam uyumlu çalışıyor ve ajan iş yüklerinde hızlı yönlendirme olanağı sağlıyor.
Clef serisi, omurga olarak Qwen modellerini kullanıyor ve üretim aşamasında otoregresif metin oluşturma adımını devreden çıkarıyor. Bu mimaride model, ön dolum geçişinden sonra belirlenen şema seçeneklerini paralel olarak puanlıyor. Clef modeli 64 bin belirteçlik bağlam penceresi ve görsel girdi desteğiyle gelirken, Clef-flash sürümü 38,8 milisaniyelik medyan gecikme süresiyle dikkat çekiyor. Cloudflare, şirket içi tehdit istihbaratı testlerinde bu modellerin alan adı sınıflandırma süresini 2,2 saniyeye düşürerek genel amaçlı büyük dil modellerine kıyasla iki kat hız avantajı elde etti.
Modellerin eğitimi aşamasında pekiştirmeli öğrenme tekniklerinden faydalanan Cloudflare, müşterilerin bu modelleri kendi verileriyle uyarlayabilmesi için yeni bir ince ayar hizmeti de başlattı. Süreç ilk aşamada mühendislik ekibinin doğrudan desteğiyle yürütülüyor, ilerleyen dönemde ise AI Gateway ve Workers AI bileşenlerini içeren self-servis bir platforma dönüştürülecek.
Bu özet yapay zekâ ile hazırlanmıştır; ayrıntılar ve doğrulama için orijinal kaynağa başvurun.