Ana içeriğe geç
Yapay Zeka

AMD açık kaynaklı GPU yazılımı ROCm 10 sürümünü duyurdu

Öne çıkanlar

  • ROCm 10.0 ile Windows ve Linux sürümleri TheRock altyapısı üzerinden tek bir SDK altında birleşti.
  • Yeni eklenen Hyperloom aracı, büyük modellerin çıkarım optimizasyon sürecini saatler seviyesine indirdi.
  • RCCL kütüphanesi, GPU üzerinden doğrudan ağ aktarımı başlatan yeni GIN mimarisini kullanıma sundu.

AMD, açık kaynaklı GPU hesaplama platformunun onuncu yılı kapsamında ROCm Core SDK 10.0 sürümünü yayımladı. Yeni sürüm, TheRock adlı otomatik derleme altyapısı üzerine inşa edildi. Şirket; Instinct hızlandırıcılar, Radeon grafik kartları ve Ryzen işlemcileri kapsayan tüm donanım ekosistemini Linux ve Windows üzerinde tek bir kaynak ağacı ve dağıtım döngüsünde topladı. Ayrıca yapay zeka odaklı iş akışlarını kolaylaştırmak amacıyla ROCm.AI ekosistemi kullanıma sunuldu.

ROCm.AI mimarisi bünyesinde komut satırı aracı ROCm CLI, yapay zeka kodlama asistanları için hazırlanan AMD Skills ve çıkarım optimizasyonunu otomatikleştiren Hyperloom yer aldı. Platform, vLLM ve SGLang gibi büyük dil modeli çıkarım çatıları için hazır kapsayıcı desteği sağlarken Ryzen AI MAX donanımlarında Unsloth aracılığıyla yerel model ince ayarı yapılmasına imkan tanıdı. Dağıtım tarafında ise tüm paketler, sürücüler ve araçlar repo.amd.com adresinde tek çatı altında birleştirildi.

İletişim kütüphaneleri tarafında RCCL, upstream NCCL 2.30.4 seviyesine güncellendi ve doğrudan GPU üzerinden ağ aktarımı başlatan GIN aygıt arayüzünü kazandı. rocSHMEM ise NVSHMEM 3.6.5 ile olan işlev farklarını azaltacak yeni arayüzlerle güçlendirildi. Windows tarafında bağımsız HIP SDK emekliye ayrılarak ROCm Core SDK çatısına dahil edildi. Yeni sürümün yaklaşık her altı haftada bir güncellenmeye devam edeceği bildirildi.

Kaynak

Bu özet yapay zekâ ile hazırlanmıştır; ayrıntılar ve doğrulama için orijinal kaynağa başvurun.