Fireworks Research akıl yürütme maliyetini düşüren Ember-1 modelini duyurdu

Fireworks Research, Kimi K3 mimarisi üzerine inşa edilen ve benzer kaliteyi yüzde 40 daha az belirteç kullanarak sunan yeni modeli Ember-1'i tanıttı. Şirket, geliştiricilerin Kimi K3 modelinin akıl yürütme süreçlerindeki aşırı belirteç tüketiminden şikayet etmesi üzerine bu projeyi başlattı. Düşük çaba ayarlarının kalite kaybına yol açtığını belirleyen araştırma ekibi, gereksiz düşünme adımlarını budayan ve yalnızca kritik akıl yürütme aşamalarını koruyan yeni bir eğitim algoritması geliştirdi. Model, Fireworks Serverless Training platformu üzerinde 50'den fazla eğitim deneyi ve 200'ü aşkın değerlendirme sonucunda hazırlandı.

Ember-1 modeli, bağımsız testlerin yanı sıra gerçek kullanıcı trafiğinde de kapsamlı testlerden geçti. İki farklı kurumsal müşterinin üretim ortamındaki kodlama iş yüklerinde yapılan A/B testlerinde, modelin görev kalitesini ve başarı oranlarını korurken görev başına yaklaşık yüzde 35 belirteç tasarrufu sağladığı görüldü. Fireworks kendi iç yazılım geliştirme süreçlerinde de Ember-1'e geçiş yaptı ve geliştiricilerin performansta herhangi bir kayıp yaşamadan daha düşük maliyetle çalıştığını bildirdi. Model ayrıca Doximity Bedside Bench ve SWE-bench gibi sektör ölçeklerinde GPT ve Claude serisi kapalı modellere kıyasla maliyet-performans dengesinde üst sıralara yerleşti.

Yeni model, özellikle çok turlu otonom yazılım ajanlarının karşılaştığı bağlam şişmesi sorununu çözmeyi hedefliyor. Kimi K3 gibi akıl yürütme modellerinin ürettiği belirteçlerin yüzde 90'a varan kısmını iç düşünme adımlarında tüketmesi, her yeni turda önceki düşünce geçmişinin tekrar okunmasına ve maliyetin katlanarak artmasına yol açıyordu. Ember-1, gereksiz döngüleri engelleyerek ve sonuçsuz denemelerdeki token israfını kısarak bu maliyeti yarıya indirdi. Model, Fireworks platformunda iki haftalık sunucusuz araştırma önizlemesi olarak kullanıma sunuldu ve kurumsal özelleştirme desteğiyle birlikte açıldı.