Yerel donanımda eğitilen küçük karar modelleri Jeff kullanıma sunuldu
Öne çıkanlar
- Jeff modelleri metin üretmeden tek ileri geçişle 22 ila 28 milisaniyede seçenekler için olasılık üretiyor.
- Tüm eğitim süreci bulut servisleri kullanılmadan tek bir RTX PRO 6000 üzerinde tamamlandı.
- 0,8 milyar parametreli model 5 genel kıyaslama testinin ortalamasında yüzde 79,1 başarı elde etti.
Açık kaynaklı yeni karar modeli ailesi Jeff, Qwen3.5 ve Gemma 4 mimarilerinin sıfır örnekli sınıflandırma için ince ayardan geçirilmesiyle geliştirildi. TypeSafe tarafından geliştirilen Jev modelinin istek formatıyla uyumlu çalışan sistem, metin üretmek yerine tek bir ileri geçişle her seçenek için kalibre edilmiş olasılık puanı üretiyor. Modeller, RTX PRO 6000 üzerinde yaklaşık 22 milisaniye, Apple M4 Max yongasında ise MLX desteğiyle 28 milisaniyede karar verebiliyor.
Tamamen yerel donanım üzerinde eğitilen Jeff modellerinde kapalı kaynaklı model çıktıları yerine açık modellerle üretilen sentetik veriler kullanıldı. 0,8 milyar parametreli sürüm tek bir iş istasyonu GPU'sunda yaklaşık 2 saatte, 2 milyar parametreli sürüm ise 3,5 saatte eğitildi. Beş genel kıyaslama testinde 0,8 milyar parametreli model yüzde 79,1 ortalama başarıya ulaşırken, 2 milyar parametreli sürüm yüzde 83,1 puan elde ederek Jev modelinin yüzde 83,0'lük genel başarımına yaklaştı veya belirli alanlarda geride bıraktı.
Sıfır örnekli görevlerin sınırlarını test etmek amacıyla modeller Frogger, Doom ve Pac-Man gibi oyun senaryolarında da denendi. Geliştiriciler, küçük boyutları nedeniyle bu modellerin çok adımlı akıl yürütme veya gelecek tahmini yapamayacağını, yalnızca açıkça tanımlanan seçenekler arasında hızlı ve kalibre edilmiş seçimler sunduğunu kaydetti. Modellerin açık kaynak kodları MIT, model ağırlıkları ise Apache 2.0 lisansıyla Hugging Face üzerinde yayımlandı.
Bu özet yapay zekâ ile hazırlanmıştır; ayrıntılar ve doğrulama için orijinal kaynağa başvurun.