ByteShape Qwen 3.8 27B için ShapeLearn modellerini yayımladı
Öne çıkanlar
- ByteShape, Qwen 3.8 27B için hazırladığı beş tam ShapeLearn modelini yayımladı.
- GPU-5 modeli BF16 temel başarımının yüzde 99,63'üne ulaştı.
- MTP ve DFlash2 spekülatif kod çözme desteği tüm test edilen kartlarda işlem hızını artırdı.
ByteShape, Qwen 3.8 27B modeli için geliştirdiği optimize edilmiş ShapeLearn kuantizasyon serisini kullanıma sundu. Şirket, modelin çıkışının ardından yayımladığı ShapeLearn-Lite sürümünden sonra daha kapsamlı optimizasyon bütçesiyle hazırlanan tam ShapeLearn modellerini paylaştı. Test edilen tüm GPU karşılaştırmalarında yeni modeller hız ve başarım sınırını yukarı taşıdı.
Farklı donanım konfigürasyonlarında yapılan testlerde GPU-5 olarak adlandırılan IQ4_XS modeli, BF16 temel başarım puanının yüzde 99,63'üne ulaştı. Bellek sınırları daha dar olan sistemler için önerilen 11 GB boyutundaki GPU-4 modeli ise BF16 başarımının yüzde 98,72'sini yakalarken daha yüksek işlem hacmi sağladı. Testlerde Unsloth, ISTA-DASLab ve Bartowski gibi alternatif kuantizasyon modelleriyle kapsamlı kıyaslamalar yapıldı.
Ekip, modellerde MTP ve DFlash2 spekülatif kod çözme yöntemlerinin desteklendiğini açıkladı. Yapılan değerlendirmelerde DFlash2 yönteminin daha yüksek metin çıktısı ürettiği, ancak daha fazla bellek tükettiği ve llama.cpp üzerinde görsel girdi desteği sunmadığı aktarıldı. Ölçümlerde düşük KLD değerlerinin doğrudan yüksek görev başarımı anlamına gelmediği de vurgulandı.
Bu özet yapay zekâ ile hazırlanmıştır; ayrıntılar ve doğrulama için orijinal kaynağa başvurun.