Yapay zeka ajanlarında bellek ve maliyet mimari yaklaşımla çözülüyor
Öne çıkanlar
- ACM disiplini, bağlam yönetimini beş temel bileşen üzerinden kurumsal ölçekte ele alıyor.
- Doğrulanmış sıkıştırma yöntemi, belirteç maliyetlerini karesel büyümeden doğrusal seviyeye indiriyor.
- Referans uygulama Maximem Synap, LongMemEval testinde yüzde 92 başarı oranı yakaladı.
Yapay zeka araştırmacıları, üretim ortamındaki ajan sistemlerinin başarısızlıklarının temelinde muhakeme yetersizliğinden ziyade bağlam yönetimindeki aksaklıkların yattığını açıkladı. Giderek büyüyen sohbet geçmişleri, geniş istemler ve araç çıktıları, ajanların bellek sınırlarını zorlarken belirteç maliyetlerini katlanarak artırıyor. Araştırmacılar, mevcut veri saklama ve getirme yaklaşımlarının yetersiz kaldığını belirterek bağlam yönetimini bir yaşam döngüsü olarak ele alan Agentic Context Management (ACM) disiplinini tanıttı.
Önerilen mimari; mimari tasarım, veri alma, kapsam belirleme, öngörme ve bağlamı sıkıştırma ile birleştirme olmak üzere beş temel bileşenden oluşuyor. Bu yöntem, geleneksel bağlam birikiminin yarattığı kuadratik maliyet artışını doğrulanmış sıkıştırma teknikleriyle doğrusal seviyeye indirirken bilgi kaybını engelliyor. Geliştirilen referans uygulama Maximem Synap, LongMemEval testinde yüzde 92 ve LoCoMo kıyaslamasında yüzde 93,2 başarı oranına ulaştı.
Bu özet yapay zekâ ile hazırlanmıştır; ayrıntılar ve doğrulama için orijinal kaynağa başvurun.