CLM-8B modeli yapay zeka ajanlarında karar alma sürecini hızlandırıyor
Öne çıkanlar
- CLM-8B, araç çağırma ve oyun görevlerinde Jev modeline kıyasla 9 kata kadar daha düşük gecikme süresi sağlıyor.
- Ajan denetleme testleri Terminal-Bench 2.1'de yüzde 87,6 ve DeepSWE üzerinde yüzde 81,6 başarı oranına ulaştı.
- Durum ve eylem vektörlerinin bağımsız önbelleğe alınması sayesinde tekrarlanan sorgularda gecikme 1 milisaniyenin altına iniyor.
Araştırmacılar, durumlar ve eylemler arasında bağlantı kuran karşıtlı öğrenme yöntemiyle eğitilmiş yeni bir "Sistem 1" modeli olan Contrastive Language Models (CLM) projesini duyurdu. Açık kaynak olarak yayımlanan CLM-8B modeli, bilgisayar kullanımı, oyun ve araç çağırma görevlerinde Jev modeliyle benzer başarı gösterirken 9 kata kadar daha düşük gecikme süresi sunuyor. Model, kodlama odaklı denetim testleri Terminal-Bench 2.1 ve DeepSWE üzerinde sırasıyla yüzde 87,6 ve yüzde 81,6 doğruluk oranlarına ulaşarak yeni bir başarım seviyesi belirledi.
Sistem mimarisinde durum ve eylem metinleri birbirinden bağımsız olarak gömülüyor ve bu vektörler önbelleğe alınarak yeniden kullanılabiliyor. Dondurulmuş bir Qwen3-8B omurgası ile 20 milyon parametrelik eğitilebilir projeksiyon başlıkları kullanan model, çıkarım sırasında yalnızca yeni metinler için vektör hesaplaması yapıyor. Sabit eylem havuzlarında önbellek kullanımı sayesinde çıkarım gecikmesi milisaniyenin altına iniyor ve GPU bellek alanı verimli şekilde korunuyor.
Eğitim süreci üç aşamalı bir yaklaşımla yürütüldü: Önce 60 milyon Nemotron soru-cevap çiftiyle ön eğitim yapıldı, ardından 30 milyon sentetik zor negatif örnekle ara eğitim tamamlandı ve son olarak 1 milyon ajan yörüngesiyle model pekiştirildi. Kodları Apache 2.0 lisansıyla yayımlanan proje; yerel vLLM sunucusu, web arayüzü ve hafif ince ayar komut dosyalarıyla geliştiricilerin erişimine açıldı.
Bu özet yapay zekâ ile hazırlanmıştır; ayrıntılar ve doğrulama için orijinal kaynağa başvurun.