Araştırmacılar GPU'larda tensör hesaplamasını hızlandıran FIBER mimarisini tanıttı
Öne çıkanlar
- FIBER mimarisi, iş parçacıklarını özel yazmaç sahipliğinden ayırarak paylaşımlı yazmaç erişimi sunuyor.
- Büyük dil modeli senaryolarında Ampere'de 2,25 kat, Hopper'da 1,8 kat ve Blackwell'de 2,09 kat uçtan uca hız artışı ölçüldü.
- Çekirdek düzeyindeki işlem hızlanması testlerde 2,49 kata kadar çıktı.
Bilgisayar mimarisi araştırmacıları, yapay zeka iş yüklerinde GPU verimliliğini artırmayı hedefleyen FIBER adlı yeni bir yürütme modeli geliştirdi. Modern GPU'lardaki Tensor Core birimlerinin sunduğu ham işlem gücüne rağmen, matris çarpımı dışındaki ara işlemlerin ve kaba taneli zamanlamanın GPU hattında tıkanıklıklara yol açtığı tespit edildi. Geliştirilen yeni yaklaşım, iş parçacığı ile yazmaç sahipliğini birbirinden ayırarak bu sorunu çözmeyi amaçlıyor.
FIBER mimarisi, GPU'ların standart SIMT modelini genişleterek fiber adı verilen hafif yürütme birimlerini kullanıyor. Kendi özel yazmaç alanına bağımlı olmayan fiberler, yalnızca asgari kontrol durumunu taşıyor ve akış çoklu işlemcisi içindeki yazmaçlara paylaşımlı bir görünüm üzerinden erişiyor. Bu yapı; dinamik paralellik ölçekleme, ince taneli veri akışı zamanlaması ve fazlalıksız matris işlenen aktarımı sağlıyor. Mimarinin hayata geçirilmesi için komut kümesi mimarisi, mikroişlemci mimarisi ve derleyici düzeyinde yenilikler yapıldı.
Karma duyarlıklı büyük dil modeli sunumu senaryolarında test edilen FIBER, Ampere mimarisinde 2,25 kata kadar uçtan uca hızlanma elde etti. Yeni model, Hopper mimarisinde 1,8 kat, Blackwell mimarisinde ise 2,09 kat performans artışı sağlarken çekirdek düzeyindeki kazanımlar 2,49 kata kadar ulaştı.
Bu özet yapay zekâ ile hazırlanmıştır; ayrıntılar ve doğrulama için orijinal kaynağa başvurun.