Weaviate 1.39 sürümü 4 bitlik rotasyonel kuantizasyon desteği sundu
Öne çıkanlar
- Weaviate 1.39 ile sunulan 4 bit RQ, bellek kullanımını yüzde 45 oranında azalttı.
- SIMD destekli FWHT optimizasyonları vektör kodlama hızını Intel işlemcilerde 3,8 kata kadar artırdı.
- 1 milyondan 250 milyon vektöre kadar yapılan ölçekleme testlerinde arama doğruluğu sabit kaldı.
Vektör veri tabanı Weaviate, 1.39 sürümüyle birlikte Rotational Quantization (RQ) mimarisine 4 bit desteği eklediğini duyurdu. Geçtiğimiz yıl 8 bit ve 1 bit seçenekleriyle sunulan bu kuantizasyon tekniği, yeni sürümdeki optimizasyonlarla bellek tüketimini ciddi oranda düşürdü. Geliştirici ekip, 4 bit RQ'nun 8 bit seviyesine yakın doğruluk sunarken bellek kullanımında yüzde 45 tasarruf sağladığını açıkladı.
Sürüm kapsamında vektör rotasyonlarını hızlandırmak için SIMD destekli Fast Walsh-Hadamard Transforms (FWHT) yapısına geçildi ve mesafe çekirdekleri güncellendi. Kodlama süreleri Intel Xeon ve Apple M1 işlemcilerde belirgin şekilde kısalırken, AMD64 ve ARM64 mimarileri için verimli önbellek getirme (prefetching) mekanizmaları devreye alındı. Ayrıca veri setlerindeki yön bağımlılığını dengelemek amacıyla ortalama merkezleme (centering) ve en yüksek iki bileşeni hassas saklama teknikleri eklendi.
Ölçeklenebilirlik testlerinde 1 milyon ile 250 milyon vektör aralığında arama doğruluğunun neredeyse hiç bozulmadan korunduğu görüldü. Karşılaştırmalı testlerde 4 bit merkezli RQ, açık kaynaklı TurboQuant uygulamalarına karşı sekiz veri setinin yedisinde daha yüksek başarım sergiledi. Yeni özellik, Weaviate 1.39 sürümünde yapılandırma parametresi olarak kullanıma sunuldu.
Bu özet yapay zekâ ile hazırlanmıştır; ayrıntılar ve doğrulama için orijinal kaynağa başvurun.