Ana içeriğe geç
Yapay Zeka

Claude Code arka plan özetleri için harcanan jeton miktarını artırıyor

Öne çıkanlar

  • Claude Code, arka plan ajanlarının durum satırı için tüm transkripti her 30 saniyede bir Opus modeline gönderiyor.
  • Ajan özeti çağrıları, toplam API harcamalarının ve isteklerinin yaklaşık beşte birini oluşturuyor.
  • İstekler yerel oturum kayıtlarında yer almadığı için yalnızca OpenTelemetry üzerinden tespit edilebiliyor.
  • Yayımlanan 80 satırlık Bun önyükleme betiği, ilgili zamanlayıcıyı etkisiz hale getirerek harcamayı sıfırlıyor.

Flamerix AI araştırmacıları, Anthropic tarafından sunulan Claude Code aracının arka plandaki durum güncellemeleri nedeniyle kullanıcı kotalarını tükettiğini tespit etti. Yapılan telemetri analizlerine göre araç, her 30 saniyede bir arka plan ajanlarının tüm geçmişini Opus modeline göndererek 3 ila 5 kelimelik durum özeti istiyor. Bu durum, toplam API harcamalarının yaklaşık yüzde 16 ila 20'sinin ana konuşma haricindeki durum satırına gitmesine yol açıyor.

OpenTelemetry verileri üzerinden yapılan incelemede, durum özeti sorgularının maliyet açısından bazen ana görüşmeyi bile geride bıraktığı belirlendi. İstek başına düşen girdi ve çıktı oranı yaklaşık 9 bin girdi jetonuna karşılık tek bir çıktı jetonu olarak ölçüldü. Bu çağrıların standart yerel oturum günlüklerine kaydedilmemesi ve Claude Code ayarlarında bu özelliği doğrudan kapatacak bir yapılandırma seçeneğinin bulunmaması kullanıcılardan gizli bir tüketim yaratıyor.

Geliştiriciler bu gereksiz token tüketimini engellemek için Bun çalıştırma ortamına yönelik no-agent-summary.js adlı bir önyükleme betiği yayımladı. Zamanlayıcı mekanizmasını devre dışı bırakan bu yama sayesinde arka plan alt ajanlarının işlevselliği bozulmadan durum özeti istekleri tamamen sıfırlandı. Linux üzerinde test edilen çözüm, sürüm 2.1.257 ile 2.1.312 arasındaki dağıtımlarda başarılı sonuç verdi.

Kaynak

Bu özet yapay zekâ ile hazırlanmıştır; ayrıntılar ve doğrulama için orijinal kaynağa başvurun.