Yapay zeka modellerinin yazılım geliştirme süreçlerinde artan rolüyle birlikte, programlama dillerinin "token verimliliği" kavramı önem kazanıyor. Makale, büyük dil modellerinin (LLM) en büyük kısıtlarından biri olan bağlam uzunluğu sınırlamasına dikkat çekiyor. Mevcut transformer mimarilerinde daha uzun bağlam pencereleri bellek kullanımını önemli ölçüde artırdığı için, kodlama yapan yapay zeka ajanları için daha token verimli bir dil, daha uzun oturumlar sağlayabilir ve daha az kaynak gerektirebilir. Bu durum, gelecekte dil seçiminde belirleyici bir faktör haline gelebilir.
Araştırma, RosettaCode projesindeki binlerce programlama görevini ve bu görevlerin çeşitli dillerdeki çözümlerini kullanarak bir analiz yapıyor. GitHub üzerinden elde edilen bu veri seti, Claude Code ve Hugging Face'in Xenova/gpt-4 tokenizer'ı aracılığıyla inceleniyor. En popüler 19 programlama dilinde ortak çözümleri olan görevler seçilerek token sayıları karşılaştırılıyor. Çalışma, bilimsel bir araştırma olmaktan ziyade, benzer çözümlerin token verimliliğine ilginç bir bakış sunmayı amaçlıyor.
Sonuçlar, bazı şaşırtıcı bulguları ortaya koyuyor. APL gibi kısalığıyla bilinen dillerin, özel sembol setleri nedeniyle tokenizer tarafından iyi optimize edilmediği ve her bir benzersiz glifin birden fazla token olarak işlendiği görülüyor. Buna karşılık, APL'ye benzer bir dizi dili olan J, ASCII karakterleri kullandığı için ortalama 70 token ile açık ara en verimli dil olarak öne çıkıyor. Bu durum, token verimliliğinin kritik bir faktör haline gelmesi halinde, programlama dillerinin evriminde sembol setlerinden kaçınan dizi dillerinin önemli bir rol oynayabileceğini gösteriyor.
Yapay zeka ajanlarının yazılım geliştirmedeki etkinliği, kullanılan programlama dillerinin token verimliliğiyle doğrudan ilişkili olup, bu durum gelecekte dil tasarımını ve seçimini temelden etkileyebilir.