Microsoft yeni yapay zeka hızlandırıcısı Azure Maia 300 mimarisini duyurdu
Öne çıkanlar
- Maia 300, hızlandırıcı başına 288 GB HBM4 bellek ve saniyede 18 TB bant genişliği sunuyor.
- Tek bir 167 kW kabinde 96 hızlandırıcı toplanarak kabin başına token çıktısı 7 katına çıkarıldı.
- Sistem, 12 bin 288 hızlandırıcıya kadar iki katmanlı ağ üzerinden ölçeklenebiliyor.
Microsoft, büyük dil modellerinin çıkarım işlemleri için özel olarak tasarladığı üçüncü nesil yapay zeka hızlandırıcısı Azure Maia 300'ün mimari ayrıntılarını paylaştı. Yeni sistem, otonom yapay zeka ajanlarının getirdiği uzun bağlam çözümleme ve çok adımlı görev yüklerini karşılamak üzere yazılım, yonga, ağ mimarisi ve veri merkezi altyapısını tek bir çatı altında birleştiriyor. TSMC N2P sürecinde üretilen hesaplama çipleri ile bellek ve giriş-çıkış katmanlarını ayrıştıran çoklu yongacık mimarisi tercih edildi.
Yeni mimari, bir önceki nesil olan Maia 200'e kıyasla önemli donanımsal iyileştirmeler içeriyor. Hızlandırıcı başına 8 adet HBM4 yığını ile 288 GB kapasite ve saniyede 18 TB bellek bant genişliği sunan sistem, hesaplama FLOP değerlerini yüzde 36, bellek bant genişliğini ise 2,5 kat artırdı. NUMA bellek düzeni ve MXFP4 gibi düşük hassasiyetli veri formatları veri hareketini azaltırken, hızlandırıcılar Ethernet tabanlı özel bir iletişim protokolüyle 12 bin 288 birimlik süper pod kümelerine kadar ölçeklenebiliyor.
Sistem düzeyindeki verimlilik kazanımları kabin tasarımına da yansıdı. 167 kilovatlık tek bir kabin içine 96 hızlandırıcı yerleştiren Microsoft, sıvı soğutma desteğiyle termal yükün yüzde 80'inden fazlasını doğrudan uzaklaştırıyor. Şirket, Maia 300'ün kabin ölçeğinde 7 kata kadar daha fazla token çıktısı ve vat başına 2,5 kat daha yüksek performans sağladığını belirtti. Yeni hızlandırıcılar Microsoft Copilot ve GitHub Copilot gibi bulut tabanlı servislerin altyapısında görev yapacak.
Bu özet yapay zekâ ile hazırlanmıştır; ayrıntılar ve doğrulama için orijinal kaynağa başvurun.