一、概述

1. 存储层次示意图

2. 评估标准

1. Bandwidth（带宽）
2. **Latency（延迟）：**分为获取时间（Access Time）和循环时间（Cycle Time）
   • 获取时间：发送读请求到字到达需要的时间
   • 循环时间：不相关的内存请求需要的最小时间，即获取开始和下一次获取开始之间的最小时间

3. 硬件原理

1. SRAM

   • 全称：Static Random Access Memory
   • 每个 bit 使用六个晶体管保存，以防止信息在读取时受到干扰
   • 不需要刷新，Access Time 接近于 Cycle Time

2. DRAM

   • 全称：Dynamic Random Access Memory
   • 每个 bit 使用单个晶体管保存
   • 读操作会破坏信息
   • 需要周期性刷新
   • Cycle Time > Access Time

3. DRAM 的访问方式

   • DRAM 按**存储体（Bank）**的方式进行组织
   • 每个 Bank 包含若干个 Row，每个 Row 包含若干个 Columns
   • 发送 **ACT 命令（Activate）**会打开一个 Bank 和一个 Row，并将该 Row 的全部数据载入 Row Buffer
   • 将 Row 放入 Buffer 后，有两种方式传送数据：
     • 一种是根据 DRAM 的宽度采用连续列地址传送
     • 另一种是指定块传送方式，并给出起始地址
   • ACT 命令发送地址时，先在**行选通（row access strobe，RAS）期间发送一半地址，再在列选通（column access strobe，CAS）**期间发送另一半地址
   • **PRE 命令（Precharge）**会关闭 Bank 和 Row，为下一次访问做好准备

   

   

   图：访问 DRAM 第 0 行第 0 列的数据

4. 提高 DRAM 的性能

   • **同步 DRAM（synchronous DRAM，SDRAM）：**对于异步 DRAM，每次进行列访问和传输时，都需要额外的同步时间；同步 DRAM 增加时钟信号，从而使得对单个 Row 进行多次 Column 访问时，不再需要额外的同步时间

   • **增加带宽：**DDR 的带宽为 4、8 或 16 位

   • **双倍数据倍率（double data rate，DDR）：**它使 DRAM 在存储器时钟周期的上升沿和下降沿都能传输数据，从而使峰值数据传输速率翻了一番

   • **使用多个 Bank：**将一整个 Bank 分拆为多个可以独立工作的 Bank，用于帮助功耗管理、缩短访问时间，并允许对不同存储体进行交织重叠的访问

   • 降低电压以降低功耗

   • **低功耗模式（Power Down Mode）：**通知 DRAM 忽略时钟即可进入这一模式；该模式会禁用 SDRAM，但内部自动刷新除外；但从低功耗模式恢复为典型模式需要一定的延迟时间

     

5. Graphics DRAM

   • 该型 DRAM 具有 GPU 所需的更大带宽（32 位），包括 GDRAM（Graphics DRAM）和 GSDRAM（Graphics Synchoronous DRAM）
   • GDRAM 的最大时钟频率更高
   • 为了提高传输速率的同时不引起信号发送出错，GDRAM 通常直接与 GPU 相连，焊接在电路板上

6. Stacked / Embedded DRAM

   • 堆叠 / 嵌入式 DRAM 是一种封装创新，它将多个 DRAM 以堆叠方式嵌入到处理器内部，可以降低访问延迟，从而允许在处理器和 DRAM 间建立更多、更快的连接，进而提升带宽，又称为 高带宽存储器（High Bandwidth Memory，HBM）

   

7. Flash

   • Flash 是一种 EEPROM（Electrically Erasable Programmable Read-Only Memory，电可擦可编程只读存储器）
   • Flash 是只读的，但可以擦除，在覆写前必须擦除原有内容，因此写操作会消耗寿命
   • Flash 是非易失的（Non-violatile）
   • 常用于 PMD（Personal Mobile Device）的二级存储，SSD 是一种 Flash
   • 比 DRAM 便宜，比 Disk 贵；比 DRAM 慢，比 Disk 快
   • Write Leveling Technique：使写入的块均匀分布，从而提高整体寿命

8. 相变存储器 Phase-Change Memory

   • SSD 未来的潜在方案

4. 提高存储器系统的可靠性

1. 错误类型
   • 硬错误（Hard Error）/ 永久性故障（Permanent Fault）：由电路变化引起的可重复的错误
   • 软错误（Soft Error） / 瞬态故障（Transient Fault）：电路不改变的前提下，存储单元内容发生改变的情况
2. 错误检测和修复

   • 可以通过奇偶校验（Parity）和纠错码（ECC，是更复杂的一类校验算法的统称）进行检测和纠正

     • 奇偶校验无法检测多位错误，所以必须限制用奇偶校验提供保护的位数，例如：每 8 个数据位使用 1 位奇偶校验位
     • ECC 可以检测两个错误并纠正一个错误，代价是每 64 个数据位占用 8 位的开销

   • Chipkill 技术：本质上类似于磁盘的 RAID，它分散数据和 ECC 信息，以便在单个存储芯片完全失效时，可以从其余存储芯片中重构丢失数据

   • 出现不可恢复的故障概率：

     $Parity\ only>ECC\ only>Chipkill$

二、Cache 基础