TypeSafe AI yapılandırılmış tahminler üreten Jev modelini tanıttı
Öne çıkanlar
- Jev, otoregresif olmayan tek geçişli yapısıyla sorguları 70 ile 500 milisaniye aralığında yanıtlıyor.
- Model metin üretmek yerine çoktan seçmeli, dereceli veya ikili doğruluk içeren yapılandırılmış çıktılar veriyor.
- Milyon girdi belirteci başına 0,042 dolar fiyat belirlenirken çıktı belirteçleri ücretsiz sunuluyor.
TypeSafe AI, metin üretimi veya sohbet yerine doğrudan yapılandırılmış soruları yanıtlayan yeni yapay zeka modeli Jev'i yayımladı. Şirketin ilk "Sistem Bir" modeli olarak nitelediği sistem, serbest metin oluşturmuyor ve adım adım akıl yürütme yerine girdileri tek bir ileri besleme döngüsünde işliyor. Yanıtları doğrudan olasılık değerleriyle birlikte sunan model, klasik büyük dil modellerine kıyasla karar süreçlerinde hız ve güvenilirlik vadetti.
Jev, otoregresif olmayan mimarisi sayesinde yanıtları parça parça üretmek yerine tek seferde çıkarıyor. Şirket verilerine göre uçtan uca yanıt süresi 70 ile 500 milisaniye arasında değişirken, benzer sınıflandırma görevlerinde büyük modellere göre 40 ila 200 kat hız artışı sağlanıyor. Sistem; seçenek, puan ve ikili doğruluk türlerinde en fazla 255 seçeneğe kadar yapılandırılmış sorguları paralel olarak değerlendiriyor. Modelin temel eğitim hedefi ise tahmin olasılıklarının gerçek dağılımla örtüşmesini sağlayan kalibrasyon başarımı olarak öne çıkıyor.
Üretim ortamlarındaki makine öğrenmesi iş hatlarında sınıflandırma amacıyla kullanılan pahalı dil modelleri, yeni model mimarisi için temel geçiş alanı olarak görülüyor. Tipik kural tabanlı sistemlerin metin işleme zorluklarını aşmayı hedefleyen Jev, milyon girdi belirteci başına 0,042 dolar seviyesinde ücretlendiriliyor. Çıktı belirteçleri için ücret almayan sistem, şu aşamada görsel girdi desteği barındırmıyor ve bekleme listesi üzerinden erişime açılıyor.
Bu özet yapay zekâ ile hazırlanmıştır; ayrıntılar ve doğrulama için orijinal kaynağa başvurun.