Bottlecap AI Gemma 4 modelinde düşünme jetonlarını yüzde 39 azalttı
Öne çıkanlar
- Düşünme jetonu kullanımı on iki kıyaslama testinde ortalama yüzde 38,9 azaldı.
- Orijinal modele göre doğruluk kaybı yalnızca 0,15 yüzdelik puanda kaldı.
- Modelin kısır döngüye girerek takılma oranı yüzde 3,64'ten yüzde 0,76'ya geriledi.
Bottlecap AI, Google'ın Gemma-4-26B-A4B-it modeli üzerinde geliştirdiği yeni ThinkingCap sürümünü duyurdu. Şirket, serinin beşinci modeliyle birlikte yapay zekanın yanıt üretirken kullandığı düşünme jetonlarını ortalama yüzde 38,9, belirli testlerde ise yüzde 69,1'e varan oranlarda düşürdü. On iki farklı kıyaslama testinde yapılan ölçümlerde bu kazanım yalnızca 0,15 yüzdelik puanlık bir doğruluk kaybıyla elde edildi.
Eğitim sürecinde modelin bilgi düzeyi, akıl yürütme becerisi, komut takibi ve güvenlik davranışları tamamen korundu. Düşünme adımlarının kısalması en çok uzun bağlam ve çok modlu görevlerde kaydedildi. Bu alandaki LongBench v2 testinde jeton kullanımı yüzde 69,1 oranında geriledi. Ayrıca modelin yanıt üretirken kısır döngüye girme oranı yüzde 3,64 seviyesinden yüzde 0,76'ya kadar indi.
Her iki model de vLLM çatısı üzerinde ve Google'ın önerdiği standart çıkarım ayarlarıyla çalıştırıldı. AIME 2026 ve HMMT gibi matematik testlerinde orijinal modeldeki döngü hataları belirgin biçimde azaldı. Bottlecap AI, açık kaynaklı ağırlıkları ve GGUF sürümlerini yayımlarken, kurumsal ihtiyaçlar için yüzde 62'ye varan tasarruf sunan bir sürümün de bulunduğunu aktardı.
Bu özet yapay zekâ ile hazırlanmıştır; ayrıntılar ve doğrulama için orijinal kaynağa başvurun.