6 haber bu etiketle işaretlenmiş
Araştırmacılar, büyük dil modellerini verimli çalıştırmak için uygulanan eğitim sonrası kuantizasyonun (PTQ) akıl yürütme modelleri üzerindeki etkilerini inceledi. Matematik, kodlama ve fen bilimleri…
ByteShape, Qwen 3.8 27B modeli için geliştirdiği optimize edilmiş ShapeLearn kuantizasyon serisini kullanıma sundu. Şirket, modelin çıkışının ardından yayımladığı ShapeLearn-Lite sürümünden sonra…
Vektör veri tabanı Weaviate, 1.39 sürümüyle birlikte Rotational Quantization (RQ) mimarisine 4 bit desteği eklediğini duyurdu. Geçtiğimiz yıl 8 bit ve 1 bit seçenekleriyle sunulan bu kuantizasyon…
Çip ve yapay zeka altyapı sağlayıcısı Cerebras, platformunda barındırdığı açık kaynaklı yapay zeka modellerinin mimari bütünlüğü ve sıkıştırma yöntemleri hakkında teknik detayları paylaştı. Şirket,…
Infino ekibi, 1536 boyutlu 100 bin OpenAI vektörü üzerinde 4 bit kuantizasyon kullanan üç farklı arama yaklaşımını karşılaştırdı. Meta'nın geliştirdiği FAISS kütüphanesinin klasik çarpım…
Level1Techs forumunda yayımlanan teknik bir analiz, yerel donanımlarda çalıştırılan büyük dil modellerinin referans testlere kıyasla neden daha düşük performans gösterdiğini inceledi. Araştırmacı,…
Tüm haberler yüklendi