Liquid AI sıfır çıktı üreten d1-3B karar modelini yayımladı
Öne çıkanlar
- d1-3B, Decision Index testinde 48,57 puan alarak 10B altı modeller arasında liderliğe yerleşti.
- Model, çıktı belirteci üretmeden tek bir ileri geçişle doğrudan kalibre edilmiş kararlar veriyor.
- NVIDIA RTX 4090 üzerinde tek bir karar süresi 8 milisaniye olarak ölçüldü.
Liquid AI, LFM2.5-VL-3B mimarisi üzerine inşa edilen ve doğrudan karar verme görevlerine odaklanan 3,1 milyar parametreli d1-3B modelini kullanıma sundu. Metin, JSON ve görsel gibi farklı veri türlerini aynı girdi durumunda işleyebilen model; sohbet etmek yerine yönlendirme, denetim, niyet sınıflandırması ve LLM puanlama gibi görevlerde doğrudan kalibre edilmiş yanıtlar sunuyor. Sistem, klasik metin üretimi yapmadan tek bir ileri geçişte sıfır çıktı belirteciyle sonuç döndürüyor.
Model, 10 milyar parametre altı kategorisinde Decision Index 0.2.1 testinde 48,57 puan alarak 4B ve 9B büyüklüğündeki rakiplerini geride bıraktı. Ayrıca 11 açık görsel testinde ortalama 74,1 başarım sergiledi. Donanım optimizasyonuna ağırlık veren model, tek bir karar işlemini NVIDIA RTX 4090 GPU üzerinde 8 milisaniyede, AMD MI325X üzerinde 9 milisaniyede tamamlıyor. Sistem Apple M5 Pro işlemcisinde ise 30 milisaniyede çalışıyor.
Transformers, vLLM ve SGLang kütüphaneleriyle entegre çalışan d1-3B, uç cihazlar için de uyumluluk sunuyor. NVIDIA Jetson serisinde test edilen model, AGX Thor donanımında 16 milisaniyelik gecikme değerine ulaşıyor. 32 bin 768 belirteçlik bağlam penceresi bulunan mimari, birden fazla soruyu tek seferde işleyerek hesaplama maliyetini düşürmeyi amaçlıyor.
Bu özet yapay zekâ ile hazırlanmıştır; ayrıntılar ve doğrulama için orijinal kaynağa başvurun.