Modern GPU mimarisi bellek yazma adımlarını optimize ediyor

Donanım araştırmacısı Fergus Finn, NVIDIA RTX 4090 grafik işlemcisinde bir STG.E komutunun küresel belleğe veri yazma sürecini inceleyen teknik bir analiz yayımladı. Çalışma, işlemcinin yazma işlemlerini yürütürken veriyi yazmaçlardan alıp L1 ve L2 önbellekleri üzerinden DRAM birimlerine nasıl aktardığını deneysel ölçümlerle ortaya koydu. Elde edilen bulgular, grafik işlemcilerde yazma işlemlerinin okuma işlemlerine kıyasla işlem birimlerini bloke etmeden asenkron olarak tamamlandığını gösterdi.

Analize göre bir warp tarafından verilen STG.E komutu yaklaşık 6 döngüde işlem birimini terk ederek yükleme ve depolama birimine iletildi. Ardından gelen birleştirici ünite, 32 adet 4 baytlık erişimi en az sayıda 32 baytlık sektöre dönüştürerek doğrudan SM başına düşen L1 önbelleğine aktardı. L1 seviyesinde verinin doğrudan L2 dilimlerine iletildiği ve L1 önbelleğinin doğrudan yazma prensibiyle çalıştığı belirlendi. L2 önbelleğindeki 36 dilimden ilgili adrese denk gelene yönlendirilen veri, buradaki yuvaya işlendikten sonra işlem birimine bir onay sinyali gönderdi.

Araştırma, L2 önbelleğindeki kirli satırların tahliye mekanizmasını ve DRAM trafiğini düzenleyen kuralları da detaylandırdı. Önbellekteki bir kümede kirli satır sayısı 8'e ulaştığında sistemin proaktif bir temizleme algoritması çalıştırarak bellek denetleyicisindeki ani yük birikimlerini engellediği tespit edildi. Ayrıca sistem genelinde verinin görünürlüğünü sağlayan bellek bariyerlerinin gecikme süreleri ölçüldü; bu kapsamda L1 düzeyindeki membar.cta komutunun yaklaşık 1 nanosaniye, sistem geneline etki eden membar.sys komutunun ise 1 mikrosaniye sürdüğü kaydedildi.