Geliştirici Jev karar modelini sohbet botuna dönüştürdü
Öne çıkanlar
- jevchat, Jev karar motoruna her adımda bir sonraki sembolü sorarak sohbet yanıtı üretiyor.
- Doğrudan karakter yerine tam metin hipotezlerinin puanlanması başarı oranını üç katına çıkardı.
- Sistem, yüksek API maliyeti ve düşük hız nedeniyle deneysel bir proje olarak paylaşıldı.
Açık kaynak geliştiricisi, Jev karar modelini temel alan deneysel sohbet botu jevchat projesini yayımladı. Yazılım, kullanıcının sorusu ve o ana kadar üretilen yanıt metnini girdi olarak alıyor ve her adımda modele sıradaki sembolün ne olması gerektiğini soruyor. Karar motoru, tanımlanan alfabe ve durdurma seçeneği üzerinden olasılık dağılımı hesaplıyor; örnekleyici ise bu dağılımdan bir sonraki karakteri veya belirteci seçerek metni adım adım oluşturuyor.
Sistem, farklı alfabeler ve örnekleme stratejileriyle çalışacak şekilde esnek bir mimari sunuyor. Seçeneklerin tek seferde değerlendirildiği doğrudan yöntemlerin yanı sıra büyük alfabeleri parçalara bölen kovalama ve ikili arama mantığına dayanan yapılar da projede yer alıyor. Modelin doğrudan tekil karakterler yerine oluşan nihai metin hipotezlerini puanlaması sağlandığında, karakter düzeyindeki doğruluk oranının yaklaşık üç katına çıktığı ve doğru sembole atanan olasılık payının ikiye katlandığı kaydedildi.
Claude desteğiyle kodlanan ve Poetry altyapısını kullanan projede, API maliyetlerinin yüksekliği ve hızın pratik bir sohbet botu için düşük kalması nedeniyle çalışmanın deneysel amaçla geliştirildiği belirtildi. Canlı terminal arayüzü; saniyedeki sembol üretimi, karakter hızı ve her API çağrısının gecikme süresini anlık olarak raporluyor. Yazılım ayrıca çevrimdışı çalışabilen 158 adet birim testi ve performans kıyaslama aracı içeriyor.
Bu özet yapay zekâ ile hazırlanmıştır; ayrıntılar ve doğrulama için orijinal kaynağa başvurun.