Recursive yerel donanımlar için geliştirdiği Flint modelini duyurdu
Öne çıkanlar
- Flint, toplam 40 milyar parametreye sahipken belirteç başına yalnızca 2,5 milyar parametre çalıştırıyor.
- Model, Apple M4 Pro donanımında saniyede 125, NVIDIA RTX Spark üzerinde 150 belirteç hızına ulaşıyor.
- Açık kaynaklı model, Apache 2.0 lisansıyla Hugging Face üzerinden genel erişime açıldı.
Yapay zeka şirketi Recursive, yerel donanımlarda hızlı kodlama görevleri yürütmek için tasarlanan Recursive Flint modelini tanıttı. Uzman karması mimarisine sahip model, toplam 40 milyar parametre içeriyor ve belirteç başına yalnızca 2,5 milyar parametreyi etkinleştiriyor. Geliştirici ekip, modeli sıfırdan dört aydan kısa bir sürede tamamladı.
Flint, 50 milyar parametrenin altındaki uzman karması modeller arasında SWE-Bench Pro v2 ve SWE-Bench Verified gibi kodlama testlerinde öne çıktı. Model, 25 ila 40 milyar parametreli yoğun modellerle benzer kodlama başarımı sunarken beş kattan daha yüksek hızlara ulaşıyor. Özel çıkarım motoru sayesinde Flint, Apple M4 Pro işlemcili MacBook Pro üzerinde saniyede 125 belirteç, 64 GB NVIDIA RTX Spark üzerinde ise 150 belirteç hızında çalışıyor.
Modelin geliştirme süreci, şirketin yapay zeka araştırmalarını otomatikleştiren Eureka Machine sistemi tarafından yönetildi. Sistem, veri hazırlığından eğitim tariflerine ve donanıma özel çekirdek tasarımlarına kadar tüm aşamalara katkı sağladı. Apache 2.0 lisansıyla Hugging Face üzerinde yayımlanan Flint, llama.cpp, Ollama ve vLLM gibi popüler yerel yazılımlarla uyumlu şekilde kullanılabiliyor.
Bu özet yapay zekâ ile hazırlanmıştır; ayrıntılar ve doğrulama için orijinal kaynağa başvurun.