Prime Intellect kodlama aracını Rust ile baştan yazdı

Prime Intellect, Ağustos ayından bu yana 300 binden fazla indirilen Prime Agent yazılımının TypeScript tabanlı kod tabanını Rust diliyle tamamen baştan yazdı. İki hafta süren bu dönüşüm sürecini, 10 binden fazla korumalı alanda çalışan ve 200 milyar token işleyen 2 binin üzerinde yapay zeka ajanından oluşan bir sürü yürüttü. Şirket, geliştirilen yeni sürümün eskiye kıyasla daha hızlı çalıştığını ve sistem kaynaklarını belirgin biçimde daha az tükettiğini açıkladı.

Yeniden yazım sürecinde insan müdahalesi asgari düzeyde tutuldu ve süreç dört aşamalı alt ajanlarla yürütüldü. Planlamacı ajanlar teknik şartnameyi çıkarırken, uygulayıcı ajanlar Rust kodlarını yazdı; bağımsız denetçiler ve doğrulama ajanları ise terminal arayüzü ile protokol eşliğini otomatik testlerle denetledi. Kod tabanı dokuz ayrı crate yapısına bölünerek modüler hale getirildi ve TypeScript sürümündeki 15 bin satırlık en büyük dosya 2 bin 500 satıra kadar düşürüldü. Ayrıca oturumlar bağımsız süreçlere bölünerek çökmelere karşı yalıtıldı.

Eşlik testlerinin tamamlanmasının ardından başlatılan üç günlük otomatik performans optimizasyonu döngüsünde 69 farklı iyileştirme birleştirildi. Yeni Rust sürümünde ilk arayüz çizim süresi 23,6 milisaniyeye, soğuk başlatmada girdi gecikmesi ise 55,8 milisaniyeye geriledi. Başlatma sonrası bellek kullanımı 607 megabayttan 106 megabayta indi. Şirket, yeni mimariyle birlikte yerel Windows desteğini beta olarak kullanıma sunduğunu ve açık kaynaklı dağıtımın devam ettiğini bildirdi.