Liquid AI cihaz üzerinde çalışan çok modlu LFM3 model ailesini duyurdu
Öne çıkanlar
- LFM3 modelleri 22 trilyon belirteçle eğitildi ve 2 milyar parametre sınıfında yer alıyor.
- 256 bin belirteç bağlam penceresine sahip LFM3-1.7B, 128 bin bağlamda yalnızca 1,6 GB KV önbellek harcıyor.
- Seri metin, görüntü, ses, çok modlu omni ve hızlı karar alma yeteneklerine sahip altı farklı model içeriyor.
Yapay zeka girişimi Liquid AI, uç cihazlarda çalışacak şekilde tasarlanan yeni nesil LFM3 (Liquid Foundation Models) ailesini tanıttı. Yaklaşık 2 milyar parametre ölçeğinde geliştirilen yeni seri, metin, görüntü, ses ve karar alma yeteneklerini ortak bir hibrit mimaride birleştiriyor. Şirket, temel ve eğitim sonrası modellerin açık ağırlıklı olarak Hugging Face, Liquid Playground ve Liquid AI API üzerinden erişime açıldığını bildirdi.
LFM3 mimarisi, kapılı kısa evrişimler, kayan pencereli dikkat (SWA) ve küresel dikkat mekanizmalarını içeren üçlü bir hibrit katman düzeni kullanıyor. Toplam 22 trilyonluk belirteç (token) kümesiyle ön eğitimden geçirilen LFM3-1.7B, 256 bin belirteçlik bağlam penceresini destekliyor. Ölçümlere göre model, 128 bin belirteçlik tam bağlamda yalnızca 1,6 GB KV önbelleğe ihtiyaç duyuyor ve 8 bin belirteçlik girdilerde önceki nesil LFM2 modeline kıyasla yüzde 25 daha hızlı çalışıyor.
Aile kapsamında metin odaklı LFM3-1.7B modelinin yanı sıra video girdisi destekleyen LFM3-VL-2B, 18 dilde çalışan LFM3-Audio-2B ve görsel ile işitsel veriyi birlikte işleyen LFM3-Omni-2B modelleri yer alıyor. Seride ayrıca tek bir ileri besleme adımında hızlı kararlar üreten d1-2B ve d1-Omni-2B uzman karar modelleri bulunuyor. Yapılan testlerde modeller, akıllı telefonlardan Raspberry Pi 5'e ve dizüstü bilgisayarlara kadar 14 farklı donanım ortamında verimli şekilde çalıştı.
Bu özet yapay zekâ ile hazırlanmıştır; ayrıntılar ve doğrulama için orijinal kaynağa başvurun.