Samsung yapay zeka için LPDDR5X-PIM bellek teknolojisini tanıttı
Öne çıkanlar
- Samsung, yapay zeka çıkarımları için geliştirdiği LPDDR5X-PIM bellek teknolojisini tanıttı.
- Yeni bellek mimarisi 614 GB/sn bant genişliğine ulaşarak standart LPDDR5X'e göre 8 kat hız sunuyor.
- Llama-3.1-8B testlerinde token üretim hızı saniyede 27'den 81,3 seviyesine çıktı.
Samsung, Hot Chips 2026 etkinliğinde yapay zeka çıkarımları için geliştirdiği LPDDR5X-PIM bellek çözümünü duyurdu. Şirket, yüksek maliyetli ve yüksek güç tüketen HBM çözümlerine alternatif olarak geliştirdiği bu mimariyle hesaplama işlemlerini doğrudan DRAM birimlerinin içine taşıyor. Dünyanın ilk LPDDR tabanlı PIM çözümü olan ürün, sunucu, mobil ve uç birim cihazlarını hedefliyor.
Yeni mimari, standart LPDDR5X bellek bloklarının içerisine yerleştirilen 16 adet PIM çekirdeğiyle çalışıyor ve 614 GB/sn bant genişliği sunuyor. JEDEC uyumlu 561 pinli standart paket yapısını koruyan bellek, Address Align Mode özelliği sayesinde geleneksel DRAM denetleyicileriyle doğrudan uyumlu şekilde çalışabiliyor. Sistem, FP ve INT formatlarında 15 farklı veri tipi kombinasyonunu destekliyor.
Samsung tarafından paylaşılan test sonuçlarına göre, Llama-3.1-8B modeli üzerinde yapılan denemelerde yeni bellek teknolojisi standart LPDDR5X'e kıyasla işlem süresini 12,3 saniyeden 5,4 saniyeye indirdi. Üretilen saniye başına token sayısı ise 27,0 seviyesinden 81,3'e yükselerek 3 katlık bir artış gösterdi. Şirket ayrıca JEDEC standartlarına yönelik LPDDR6-PIM çalışmalarının da sürdüğünü açıkladı.
Bu özet yapay zekâ ile hazırlanmıştır; ayrıntılar ve doğrulama için orijinal kaynağa başvurun.