Hot Chips 2026 etkinliğinde Yüksek Bant Genişlikli Flaş bellekler ele alındı
Öne çıkanlar
- HBF, HBM benzeri paketleme yöntemiyle işlemci yanına yerleştirilen flaş bellek bloklarından oluşuyor.
- Doğrudan bayt erişimi sunmayan teknoloji, DMA üzerinden büyük ve hizalanmış veri bloklarıyla çalışıyor.
- SSD denetleyici işlevlerini ana yazılıma yükleyen mimari, geleneksel çatılarda köklü değişiklik istiyor.
Hot Chips 2026 etkinliğinde araştırmacılar Anurag Agarwal ve Radhakrishna Giduthuri, Yüksek Bant Genişlikli Flaş (HBF) teknolojisinin yapay zeka ve makine öğrenimi iş yüklerindeki potansiyelini tanıttı. HBM benzeri bir paketleme mimarisiyle doğrudan işlemci yongasının yanına yerleştirilen HBF, standart flaş bellek teknolojisini kullanarak yüksek kapasite ve uygun maliyet sunmayı hedefliyor. Henüz ticari bir HBF ürünü bulunmadığı için sunumda simülasyonlar, gelecek projeksiyonları ve yazılım uyarlama stratejileri ele alındı.
HBF, bellek havuzundan ziyade doğrudan işlemciye entegre edilmiş bir SSD gibi çalışıyor. Sistem, HBF ile DRAM arasındaki veri aktarımını doğrudan bellek erişimi (DMA) yöntemleriyle büyük ve hizalanmış bloklar halinde gerçekleştiriyor. Aşınma dengeleme ve veri koruma gibi SSD denetleyici işlevlerinin ana bilgisayar yazılımı tarafından yönetilmesi gerekiyor. Bu yapı, vLLM gibi çıkarım motorlarında MoE uzmanlarının saklanması veya seyrek dikkat mekanizmasına sahip KV önbelleklerinin barındırılması gibi senaryolarda ek kapasite avantajı sağlıyor.
Teknolojinin kapasite başına maliyet avantajına rağmen yazılım seviyesindeki zorlukları dikkat çekiyor. Bayt düzeyinde rastgele erişim yerine blok tabanlı sıralı okuma gerektiren HBF, geleneksel DRAM odaklı yazılım çatılarında köklü değişiklikler yapılmasını zorunlu kılıyor. Bant genişliğine bağlı yoğun iş yüklerinde verimliliği düşen mimarinin, geniş çapta benimsenip benimsenmeyeceği pazara çıkacak ilk ürünlerle netleşecek.
Bu özet yapay zekâ ile hazırlanmıştır; ayrıntılar ve doğrulama için orijinal kaynağa başvurun.