Açık kaynaklı karar modeli Laya yayımlandı
Öne çıkanlar
- Laya, Apache 2.0 lisansıyla açık kaynaklı ve yerel çalıştırılabilir olarak yayımlandı.
- Model, tek sorgularda 32,8 milisaniye gecikme süresiyle Jev'den yaklaşık sekiz kat daha hızlı çalışıyor.
- Dahili yönlendirici, Unicode alfabe analiziyle 100'den fazla dili milisaniyenin altında tespit ediyor.
- Sistem metin üretmediği için halüsinasyon veya hatalı JSON üretme ihtimalini ortadan kaldırıyor.
Convai Innovations, metin üretimi yapmadan doğrudan yapılandırılmış kararlar alan açık kaynaklı yapay zeka modeli Laya'yı duyurdu. Geleneksel üretici büyük dil modellerinin yüksek gecikme süresi ve maliyet sorunlarına alternatif olarak geliştirilen sistem, Apache 2.0 lisansıyla kullanıma sunuldu. Model, çift yönlü kodlayıcı mimarisi sayesinde standart donanımlarda tek bir GPU üzerinde 32,8 milisaniyede sonuç üretiyor.
Laya, TypeSafe AI tarafından kapalı kaynaklı ve ücretli bir API olarak sunulan Jev modeline doğrudan rakip olarak konumlanıyor. Geliştirici ekip, Laya'nın Jev'e kıyasla tekli sorgularda yaklaşık sekiz kat, toplu sorgularda ise 20 kat daha hızlı çalıştığını belirtti. Karar şemalarını doğrudan sayılara ve olasılıklara döken sistem; seçim, puanlama ve mantıksal doğrulama olmak üzere üç temel işlem türünü destekliyor.
İngilizce, çok dilli ve tip odaklı kararlar için üç farklı kontrol noktası içeren model ailesi, 100'den fazla dili destekleyen dahili bir yönlendiriciye sahip. Bu yönlendirici, gelen metnin alfabe yapısını milisaniyenin altındaki sürelerde analiz ederek sorguyu otomatik olarak uygun modele aktarıyor. Sistem, e-posta filtreleme ve bilet yönlendirme gibi kurumsal iş akışlarında yüksek doğruluk oranlarına ulaşıyor.
Bu özet yapay zekâ ile hazırlanmıştır; ayrıntılar ve doğrulama için orijinal kaynağa başvurun.