Hybrid Reasoning Agents çıkarım maliyetini ve belirteç kullanımını düşürdü
Öne çıkanlar
- HybridAgent, geleneksel metin tabanlı ajanlara kıyasla genel performansı yüzde 10,4 artırdı.
- Yeni yöntem belirteç tüketimini yüzde 35,5 ile 54,7 arasında azalttı.
- Çıkarım hızı 1,8 ila 2,6 kat artarken maliyetler 3,7 kata kadar düştü.
- HybridLink ve çalışma belleği, gizil akıl yürütme sırasında araç kullanımını ve denetlenebilirliği korudu.
Araştırmacılar, büyük dil modellerinde örtük akıl yürütme ile metin tabanlı etkileşimi birleştiren Hybrid Reasoning Agents (HybridAgents) mimarisini tanıttı. Mevcut yapay zeka ajanları çevreyle etkileşimi ve düşünme süreçlerini yalnızca metin üzerinden yürütürken, yeni yöntem modelin içsel gizil uzayda düşünmesini ve yalnızca gerektiğinde metne geçmesini sağlıyor. Sistem, hafif bir HybridLink katmanı ve sürekli çalışma belleği sayesinde araç kullanım yeteneklerini ve denetlenebilirliği koruyarak çok turlu görevleri yerine getiriyor.
Yeni mimari, HybridSFT ve HybridRL adı verilen özel eğitim aşamalarıyla desteklendi. HybridSFT modeli araç entegrasyonuyla gizil mod arasında koordine ederken, pekiştirmeli öğrenme tabanlı HybridRL ne zaman örtük uzayda düşünüleceğini ne zaman metin üretileceğini optimize ediyor. Geliştiriciler, bu yapı sayesinde modelin içsel düşüncelerinin doğrudan incelenebildiğini ve araç çağırma süreçlerinin sekteye uğramadığını bildirdi.
Matematik, tıp ve arama gibi alanlardaki 11 farklı testte üç model ölçeğiyle yapılan değerlendirmelerde HybridAgent, öncü ajanlara kıyasla genel performansı yüzde 10,4 artırdı. Çalışma, belirteç kullanımında yüzde 35,5 ile yüzde 54,7 arasında düşüş sağlarken çıkarım hızını 1,8 ila 2,6 katına çıkardı ve maliyeti 3,7 kata kadar azalttı. Araştırma ekibi projenin kodlarını ve veri setlerini açık kaynak olarak paylaştı.
Bu özet yapay zekâ ile hazırlanmıştır; ayrıntılar ve doğrulama için orijinal kaynağa başvurun.