Geliştirici uçbirim simülasyonu yapan 360 milyon parametreli yapay zeka geliştirdi
Öne çıkanlar
- Model, 336 bin uçbirim oturumu üzerinden 75 GPU-saati harcanarak eğitildi.
- Kelime dağarcığı 333 belirtece indirilerek ve 4-bit nicemleme yapılarak model boyutu 208 MB'a düşürüldü.
- Satırların paralel işlenmesiyle büyük ekran güncellemelerinin gecikmesi 6,7 saniyeden 0,87 saniyeye indirildi.
Geliştirici Simeon Edwards, arkasında gerçek bir kabuk ya da dosya sistemi bulunmadan uçbirim davranışını tahmin eden WorldTUI adlı dil modelini tanıttı. Qwen2.5-Coder-0.5B mimarisi üzerine kurulan 360 milyon parametreli model, kullanıcıların klavye girdilerine göre ekrandaki karakter ızgarasının nasıl değişeceğini uçbirim oturum kayıtları aracılığıyla öğreniyor. Sistem, WebGPU desteği sayesinde doğrudan tarayıcı üzerinden 208 MB boyutundaki sıkıştırılmış ağırlıklarla çalışabiliyor.
Eğitim sürecinde Docker konteynerlerinde kaydedilen 336 bin sentetik uçbirim oturumu kullanıldı. Model yalnızca yeni metin üretmek yerine imleç koordinatlarını ve ekran satırlarındaki değişiklikleri 333 belirteçlik daraltılmış bir sözlükle tahmin ediyor. Edwards, hata birikimini engellemek için modele kendi hatalarını onarmayı öğretti ve ekran yenileme gecikmesini düşürmek amacıyla satırları paralel üreten spekülatif kod çözme yöntemini uyguladı.
Testlerde modelin vim, tmux, temel Python komutları ve snake oyununu başarıyla çalıştırdığı görüldü. Dosya okuma testlerinde istem tabanlı modellere kıyasla belirgin şekilde daha yüksek tutarlılık sağlayan WorldTUI, karmaşık dizin işlemlerinde veya sıra dışı komut kombinasyonlarında hala hatalar üretebiliyor. Geliştirici, çalışmanın kuralları kodlanmamış etkileşimli arayüzleri öğrenme potansiyelini gösterdiğini belirtti.
Bu özet yapay zekâ ile hazırlanmıştır; ayrıntılar ve doğrulama için orijinal kaynağa başvurun.