Revolut açık ağırlıklı GLM modeline geçerek yapay zeka harcamasını yüzde 90 düşürdü
Öne çıkanlar
- Revolut, 2 bin mühendisi için Claude Code yerine yerel olarak barındırdığı GLM modelini varsayılan yaptı.
- Açık model hamlesiyle birlikte şirketin yapay zeka kodlama faturası yüzde 90 oranında azaldı.
- Modeli 56 Nvidia B200 GPU ile çalıştıran şirket, milyon belirteç maliyetini 0,30 dolara düşürdü.
- Mühendislerin görev teslim sürelerinde kurum içi ölçümlere göre yüzde 70 kısalma kaydedildi.
Finansal teknoloji şirketi Revolut, yaklaşık 2 bin yazılım mühendisinin kullandığı varsayılan kodlama araçlarını Anthropic'in Claude Code ve OpenAI'ın Codex çözümlerinden açık ağırlıklı GLM modeline taşıdı. New York'taki AI Engineer konferansında konuşan Revolut Yapay Zeka Operasyonları ve Altyapı Lideri David Abitbol, Çin merkezli Z.ai tarafından geliştirilen modeli kurum içi sunucularda çalıştırdıklarını ve harcamaları onda bire indirdiklerini açıkladı.
Şirket, GLM modelini yaklaşık 56 adet Nvidia B200 GPU üzerinde çalıştırıyor ve milyon belirteç başına ortalama maliyeti 0,30 dolar seviyesinde tutuyor. Abitbol, model değişikliği ve belirteç kotalarının kaldırılması sayesinde kodlama sürelerinde yüzde 60, görev başlangıcından kod birleştirmeye kadar geçen teslim süresinde ise yüzde 70 kısalma ölçtüklerini bildirdi. Daha önce uygulanan kotalar nedeniyle mühendislerin yapay zekayı yalnızca zor görevlere sakladığını belirten Abitbol, sınırsız erişimin verimliliği artırdığını kaydetti.
Düzenlemelere tabi bir banka olarak Çin menşeli bir model kullanmanın oluşturduğu endişelere değinen Abitbol, yalnızca açık ağırlıkları aldıklarını ve sistemi Z.ai bulutu yerine ABD'deki kendi altyapılarında barındırdıklarını aktardı. Kodlama ajanlarının onay kurallarına bağlı yalıtılmış ortamlarda çalıştığını vurgulayan şirket, ilk belirteç yanıt süresini 14 saniyeden 1,7 saniyeye indirmek için yoğun optimizasyon yaptı. Görsel işlemler Gemini'ye yönlendirilirken, en karmaşık kodlama işleri için Claude Code ve Codex istisnai olarak devrede kalıyor.
Bu özet yapay zekâ ile hazırlanmıştır; ayrıntılar ve doğrulama için orijinal kaynağa başvurun.