GPU Memory Hierarchy

Memory Hierarchy

위로 올라갈수록 비싸고, 성능이 좋다. 낮은 계층일수록 가격이 저렴하고 성능이 나쁘다.

1. RF - 레지스터 파일 (in processor)

2. Cache (L1/L2/L3) - in processor (l3 == llc shared cache)

3. Main memory (DRAM) - off processor

4. Storage (SSD / HDD) - off processor - SATA/PCI

Data Locality : Temporal / Spatial