Hazır yapay zeka modelleri tek geçişte tip güvenli karar verebiliyor
Öne çıkanlar
- GLM-5.3-Flash, 28 metin veri kümesinde özel karar modeli Jev ile aynı doğruluk seviyesine ulaştı.
- Tek geçişli yöntem, Almanya üzerindeki testlerde 180 milisaniye yanıt süresi kaydetti.
- Görsel girdi desteği sayesinde taranmış belgelerde yüzde 70,2 sınıflandırma başarısı sağlandı.
Privatemode ekibi, genel amaçlı büyük dil modellerini ek eğitim gerektirmeden özel karar modellerine dönüştüren yeni bir yöntem geliştirdi. GLM-5.3-Flash üzerinde denenen yaklaşım, modelin tüm JSON çıktısını üretmesi yerine önceden tanımlanmış seçeneklerin olasılık dağılımını tek bir ileri geçişte okuyor. Bu sayede model, TypeSafe tarafından geliştirilen Jev gibi özelleşmiş sistemlerin hız ve doğruluk oranlarını yakaladı.
Araştırmacılar, 29 açık veri kümesini içeren kapsamlı bir kıyaslama testi hazırlayarak GLM-5.3-Flash modelini Jev ve Laya ile karşılaştırdı. vLLM altyapısının sağladığı belirteç filtreleme özelliklerinden yararlanan yöntem, 28 metin veri kümesinde Jev ile istatistiksel olarak farksız doğruluk sergiledi. Ölçümlerde GLM-5.3-Flash Almanya sunucularında 180 milisaniye yanıt süresi verirken, ABD merkezli Jev 264 milisaniyede kaldı. Maliyet tarafında ise Jev bir milyon kararı 16 avroya çözerken genel modelde bu tutar 62 avro oldu.
Yöntemin en belirgin üstünlüğü çoklu ortam desteğinde ortaya çıktı. Yalnızca metin işleyebilen Jev ve Laya modellerinin aksine, görsel işleme yeteneği bulunan GLM-5.3-Flash taranmış fatura ve ekran görüntüleri üzerinden de sınıflandırma yapabildi. Model, 1.600 taranmış belgeden oluşan RVL-CDIP test kümesinde yüzde 70,2 doğruluk oranına ulaştı. Ekip, vLLM uyumlu uç noktalar için geliştirdiği Python kütüphanesini ve kıyaslama araçlarını açık kaynak olarak paylaştı.
Bu özet yapay zekâ ile hazırlanmıştır; ayrıntılar ve doğrulama için orijinal kaynağa başvurun.