FuriosaAI, veri merkezi ölçeğinde yapay zeka çıkarımı için tasarlanmış ilk anahtar teslim çözümü olan NXT RNGD Sunucusu'nu tanıttı. RNGD hızlandırıcıları etrafında inşa edilen bu optimize edilmiş sistem, günümüzün en kritik yapay zeka iş yüklerinde yüksek performans sunarken, mevcut veri merkezi ortamlarına sorunsuz bir şekilde entegre olabiliyor. Kurumsal müşteriler, Furiosa SDK ve Furiosa LLM runtime önceden yüklenmiş olarak gelen bu sistem sayesinde, deneysel aşamadan dağıtıma daha hızlı geçiş yapabilirler. Platform, standart PCIe ara bağlantıları üzerinden optimize edildiği için özel ağlara veya egzotik altyapıya ihtiyaç duymuyor, bu da kurulumu ve entegrasyonu kolaylaştırıyor.
NXT RNGD Sunucusu, sistem başına sadece 3 kW güç tüketimiyle dikkat çekiyor ve kuruluşların yapay zekayı çoğu modern tesisin güç ve soğutma limitleri dahilinde ölçeklendirmesine olanak tanıyor. Bu özellik, günümüzde veri merkezlerinin %80'inden fazlasının hava soğutmalı ve raf başına 8 kW veya daha az güçle çalıştığı düşünüldüğünde, işletmelerin mevcut altyapılarını kullanarak yapay zeka fabrikaları kurmaları için pratik ve maliyet etkin bir çözüm sunuyor. Üstün güç verimliliği, işletmelerin toplam sahip olma maliyetini (TCO) önemli ölçüde düşürüyor. Ayrıca, hassas iş yükleri, düzenleyici uyumluluk veya gelişmiş gizlilik ve güvenlik gereksinimleri olan işletmeler için, model ağırlıklarının tamamen yerel altyapıda çalışması sayesinde kurumsal veriler üzerinde tam kontrol sağlıyor.
Sistemin performansı, küresel çapta büyük işletmeler tarafından da doğrulanmış durumda. Örneğin, LG AI Research, EXAONE modelleriyle çıkarım hesaplamaları için RNGD'yi benimsediğini duyurdu. Tek bir sunucuda dört RNGD kartı kullanarak LG'nin EXAONE 3.5 32B modelini çalıştıran LG AI Research, 4K bağlam penceresiyle saniyede 60 token ve 32K bağlam penceresiyle saniyede 50 token hızına ulaştı. FuriosaAI, şu anda LG AI Research ile birlikte, elektronik, finans, telekomünikasyon ve biyoteknoloji gibi kilit sektörlerde EXAONE kullanan işletmelere NXT RNGD sunucuları tedarik etmek için çalışıyor. Bu iş birliği, ileri düzey yapay zekanın hızlı dağıtımını mümkün kılıyor.
FuriosaAI'ın NXT RNGD Sunucusu, mevcut veri merkezi altyapılarına kolayca entegre olabilen ve yüksek performans sunan enerji verimli bir yapay zeka çıkarım çözümüyle işletmelerin yapay zeka dağıtımını hızlandırıyor ve maliyetlerini düşürüyor.