Ana içeriğe geç
Yapay Zeka

Yapay zeka modelleri telgraf diliyle yüzde 49'a varan maliyet tasarrufu sağlıyor

Öne çıkanlar

  • Telgraf dili talimatı, modeller arası veri aktarımında token harcamasını yüzde 49'a kadar düşürdü.
  • Farklı ailelerden modeller, sıkıştırılmış metinleri düz metinle aynı veya daha yüksek doğrulukla okudu.
  • Muhakeme modu kapatılamayan modellerde sıkıştırma işlemi maliyeti düşürmek yerine yaklaşık iki katına çıkardı.

Araştırmacılar, büyük dil modellerinin tarihsel telgraf dilini (cablese) kullanarak bilgi kaybı yaşamadan token tüketimini yüzde 49'a kadar azaltabildiğini açıkladı. Yayımlanan kıyaslama çalışmasında, 50 metin ve yaklaşık 1.300 soru üzerinden yapılan testlerde modellerin tek cümlelik bir talimatla dilbilgisi eklerini ve dolgu sözcükleri atarak metinleri sıkıştırdığı gözlemlendi. Gemma, Qwen, GLM ve Nemotron gibi farklı model aileleri, hiçbir ön eğitim veya örnek gösterimi olmadan bu sıkıştırılmış kayıtları düz metinle eşit veya daha yüksek doğruluk oranlarıyla okudu.

Deney sonuçları, makineler arası iletişimde sıkıştırılmış kayıtların bilgi geri kazanım oranının kontrol grubuna kıyasla 0,99 ile 1,10 aralığında kaldığını ortaya koydu. Çıktı maliyetlerinde Gemma modellerinde yüzde 40,4, Qwen modellerinde ise yüzde 48,9 oranında token tasarrufu ölçüldü. Ancak gpt-5-mini gibi muhakeme adımları kapatılamayan modellerde, sıkıştırma çabasının iç düşünce süreçlerini artırması sebebiyle maliyet avantajının tersine döndüğü ve harcamanın yaklaşık iki katına çıktığı kaydedildi.

Araştırma, telgraf tarzı iletişimin modellerin ortak eğitim verilerinde hazır bulunduğunu ve yapay zeka ajanlarının hafıza kayıtlarında doğrudan kullanılabileceğini gösterdi. Tamamen yapay veya sembolik dillerin aksine telgraf dilinin insanlar tarafından okunabilir ve denetlenebilir kalması, sistem güvenliği açısından öne çıkan bir avantaj olarak değerlendirildi. Çalışmanın tüm test senaryoları ve veri setleri GitHub üzerinde açık kaynak olarak erişime açıldı.

Kaynak

Bu özet yapay zekâ ile hazırlanmıştır; ayrıntılar ve doğrulama için orijinal kaynağa başvurun.