Google çok modlu gömme modeli EmbeddingGemma 2'yi tanıttı
Öne çıkanlar
- EmbeddingGemma 2, metin, kod, görüntü ve sesi 740 milyon parametreli tek bir modelde birleştirdi.
- Model, 8 bin tokenlik bağlam penceresiyle 5,5 dakikaya kadar ses kaydını veya 58 video karesini işleyebiliyor.
- Matryoshka gösterimi sayesinde vektör boyutları küçültülerek yerel depolamada 6 kata kadar tasarruf elde ediliyor.
Google, metin, kod, görüntü, video ve ses verilerini ortak bir vektör uzayında birleştiren açık ağırlıklı EmbeddingGemma 2 modelini yayımladı. Gemma 4 mimarisi üzerine inşa edilen ve Apache 2.0 lisansıyla dağıtılan 740 milyon parametreli model, doğrudan tüketici cihazlarında yerel çıkarım yapacak şekilde tasarlandı. Şirket, önceki sürümün 20 milyondan fazla indirmeye ulaştığını ve yeni modelin cihaz içi arama ile RAG boru hatlarına çok modlu destek kazandırdığını açıkladı.
Model modüler yapısıyla metin odaklı görevlerde 270 milyon parametreyle çalışırken, isteğe bağlı olarak 170 milyon parametrelik görüntü ve 300 milyon parametrelik ses kodlayıcılarını devreye alıyor. Matryoshka Representation Learning desteği sayesinde 768 boyutlu çıktı vektörleri 128 boyuta kadar kısaltılarak yerel vektör veri tabanlarında 6 kata kadar alan tasarrufu sağlanıyor. Kuantalama uygulandığında tam çok modlu model bir Google Pixel 11 Pro üzerinde yaklaşık 567 megabayt RAM harcıyor.
Önceki sürüme kıyasla dört kat artışla 8 bin tokenlik bağlam penceresi sunan sistem, 5,5 dakikalık ses kaydını veya 58 video karesini tek seferde işleyebiliyor. MTEB Code testinde 78,68 puana ulaşarak kod arama başarımını artıran modelin ağırlıkları Hugging Face ve Kaggle üzerinde geliştiricilerin erişimine açıldı.
Bu özet yapay zekâ ile hazırlanmıştır; ayrıntılar ve doğrulama için orijinal kaynağa başvurun.