CPU 寄存器 (最快, 最小)
↓
L1/L2/L3 Cache (SRAM, ns級)
↓
主存 DRAM (GB級, ~100ns)
↓
磁盤/SSD (TB級, ms/μs級)
核心思想:局部性原理(時間局部性+空間局部性)讓小容量高速Cache覆蓋大部分訪問。
命中率直接決定平均訪問時間:AMAT = Hit_time + Miss_rate × Miss_penalty
| 參數 | 過大影響 | 過小影響 |
|---|---|---|
| 容量 | 查找慢、成本高、功耗大 | 命中率低、頻繁訪存 |
| 塊大小 | 空間局部性利用不足、替換開銷大 | 標籤開銷大、空間局部性差 |
| 關聯度 | 比較器複雜、延遲高 | 衝突未命中多 |
最佳塊大小通常32-128字節,平衡空間局部性與傳輸開銷。
問題:CPU速度快,外設慢,CPU輪詢/中斷搬運數據嚴重浪費算力。
解決:DMA控制器接管內存↔外設數據傳輸,CPU僅參與啟動和結束。
現代計算機性能核心在於存儲層次與數據搬運機制:
• Cache用局部性原理掩蓋主存延遲
• DMA用專用控制器釋放CPU處理大數據移動
理解兩者原理,是系統優化、驅動開發、高性能計算的必修課。