Açık kaynaklı jevlike modeli seçenek tahminini hızlandırıyor
Öne çıkanlar
- jevlike, değişken sayıdaki seçenekler arasından tek geçişte olasılık puanı hesaplıyor.
- Sekiz seçenekli testlerde klasik metin üretim yöntemine göre 100 kat hız artışı sağlandı.
- Doom ve satranç denemeleri için görsel kontrol yetenekleri depoya eklendi.
Geliştirici Vinny LaRouge, TypeSafe şirketinin ticari Jev modelini temel alan bağımsız ve açık kaynaklı jevlike projesini duyurdu. Yeni sistem, metin veya görsel bağlam içinden değişken sayıdaki seçenekler arasından tek adımda doğrudan olasılık puanı üretiyor. Kelime kelime metin üretmek yerine tek geçişli dikkat mekanizması kullanan model, çoktan seçmeli karar süreçlerinde işlem sürelerini önemli ölçüde kısaltıyor.
Sistem mimarisi, her seçeneği bir sorgu vektörüne dönüştürerek metin veya görüntü bağlamındaki belirteçlere dikkat ağırlıkları atıyor. Ortak bir nokta çarpımı ve softmax işlemiyle her seçenek için olasılık dağılımı hesaplanıyor. Model, sıfırdan öğrenen yerleşik bir bayt kodlayıcı barındırdığı gibi Hugging Face üzerindeki dondurulmuş ön eğitimli dil modellerini de arka uç olarak destekliyor. Yapılan yerel testlerde sekiz seçenekli menülerde tek geçişli yaklaşımın, 400 belirteç üreten küçük bir kod çözücüye kıyasla yaklaşık 100 kat daha hızlı çalıştığı kaydedildi.
Depoda sentetik metin sınıflandırmanın yanı sıra görsel girdilerle Doom ve satranç oyunlarında tuş kontrolü yapan örnekler de paylaşıldı. Proje, dondurulmuş bir Qwen2.5-0.5B modeliyle Wikispeedia sonraki tıklama veri setinde yüzde 26 doğruluk oranına ulaştı. MIT lisansı ile yayımlanan yazılım, karar anında tüm seçenek listesinin hazır bulunmasını şart koşuyor.
Bu özet yapay zekâ ile hazırlanmıştır; ayrıntılar ve doğrulama için orijinal kaynağa başvurun.