第六章 存储器层次结构

在简单模型中，存储器系统是一个线性的字节数组，CPU能够在一个常数访问每个存储器位置。

• 虽然是一个行之有效的模型，但没有反应现代系统实际工作方式。

实际上，存储器系统(memory system)是一个具有不同容量，成本和访问时间的存储设备的层次结构。

• CPU寄存器保存着最常用的数据。(0周期)
• 靠近CPU的小的，快速的高速缓存存储器(cache memory)作为一部分存储在相对慢速的主储存器(main memory,简称主存)中的数据和指令的缓冲区。(1~30周期)
• 主存暂时存放 储存在容量较大的，慢速磁盘上的数据。(50~200周期)
• 磁盘又作为存储在通过网络连接的其他机器的磁盘或磁带上数据的缓冲区。(几千万个周期)

6.1 存储技术

6.1.1 随机访问存储器

随机访问存储器(Random-Access Memory,RAM)分为两类，静态的和动态的。

• 静态RAM(SRAM）比动态RAM(DRAM)快地多，也贵得多。
• SRAM用来作为高速缓存存储器。(一般只有几兆)
• DRAM用来作为主存以及图形系统的帧缓冲区(显存)。(一般有几G)

具体分析

1. SRAM

   • SRAM将每个位存储在一个双稳态(bistable)存储器单元里。

     • 每个存储单元用一个六晶体管电路来实现。

       • 有这样属性，可以无限期保持在两个不同的电压配置(configuration)或状态之一。
       • 其他任何状态都是不稳定的。如图所示

       

     • 由于这种双稳态特性，只要有电，它就会永远保持他的值，即使有干扰。

       • 例如电子噪音，来扰乱电压，当消除干扰时，电路就会恢复稳定值。

2. 动态RAM

   • DRAM将每个位存储为对一个电容充电，这个电容非常小，通常只有30*10^-15法拉。
     
     • 因此，DRAM存储器可以造的十分密集。
       
       • 每个单元由一个电容和一个访问晶体管组成。
     • 但是，DRAM存储器对干扰非常敏感。当电容电压被扰乱后，就永远不会恢复。

   • 很多原因会漏电，使得DRAM单元在10~100毫秒时间内失去电荷。

     • 幸运的是，计算机的时钟周期以纳秒衡量，这个保持时间也相当长。

   • 存储器系统必须周期性地读出，然后重写来刷新存储器的每一位。

     • 有些系统也使用纠错码。

   • 两者的对比

   

   • 只要有供电，SRAM就会保持不变。
   • SRAM不需要刷新
   • SRAM读取比DRAM快
   • SRAM对干扰不敏感。
   • 代价是SRAM单元比DRAM单元使用更多的晶体管，因而密集度低，更贵，功耗更大。

3. 传统的DRAM

   • DRAM芯片的单元被分为d个超单元(supell cell)

     • 每一个个超单元由w个DRAM单元组成。一个d*w的DRAM总共存储了dw位信息。
     • 超单元被组织成一个r行c列的长方形阵列。
       
       • 这里rc=d,每个超单元有形如(i,j)的地址，这里i表示行，而j表示列。

     

     • 注释: 计算机构架师称为单元(cell),电路设计者称为字(word)，避免混淆，取为超单元。

   -每个DRAM芯片被链接到某个称为存储控制器的电路，这个电路可以一次传送w位到每个DRAM芯片或一次从每个DRAM 芯片传出w位。

   • 为何有16个单元，却只要2位addr?

     • 首先发送一个行地址i给DRAM。这叫RAS(Row Acess Strobe，行访问选通脉冲)。
     • DRAM的响应是把第i行全部拷贝到一个内部行缓冲区。
     • 然后发送列地址j给DRAM。这叫CAS(Column Access Strobe,列访问选通脉冲)请求。
     • DRAM的响应将内部行缓冲区的超单元(i,j)发送给存储控制单元。

   • 为何设计成二维阵列，而不是线性?

     • 一个原因是降低芯片上地址引脚的数量。原本需要2N 的引脚，只要N个就好了。
       
       • 缺点是需要传输两次。增加访问时间。

4. 存储器模块

   DRAM芯片包装在存储器模块(memory module)中，它是插到主板的扩展槽上。

   • 常见的包装包括168个引脚的双列直插存储器模块(Dual Inline Memory Module),它以64位为块传送数据到存储控制器和从存储控制器传出数据。
   • 还包括72个引脚的单列直插存储器模块(Single Inline Memory Module),它以32位为块传送数据。

   如图展示一个存储器模块的基本思想。

   

   • 用对应超单元地址 (i，j)的8个超单元来表示主存字节地址A处的64位双字(此处:字=4字节)。

   • 通过将多个存储器模块连接到存储控制器，能够聚合主存。在这种情况下，当控制器收到一个地址A时，控制器选择包含A的模块k,将A转换成它的(i，j)形式，并发送(i,j)到模块k(不太懂这句话什么意思?)

   • 增强的DRAM

   基于传统DRAM,进行优化，改进访问速度。

   • 快页模式DRAM(Fast Page Mode DRAM,FPM DRAM)。

     • 传统的DRAM将超单元的一整行拷贝到它的内部缓冲区，使用一个，然后丢弃剩余的。
     • FPM DRAM允许对同一行连续地访问可以直接从行缓冲区获得服务。

   • 扩展输出DRAM(Extended Data Out DRAM,EDO DRAM) 不懂

     • FPM DRAM的一个增强形式，它允许单独的CAS信号在时间上靠的紧密一些。

   • 同步DRAM(Synchronous DRAM,SDRAM) 不懂

     • 就它们与存储控制器通信使用一组显示的控制信号来说，常规的，FPM,EDO都是异步的。
     • 最终效果就是SDRAM能够比那些异步的存储器更快输出超单元内容。

   • 双倍数据速率同步DRAM(Double Date-rate Synchronous DRAM,DDR SDRAM) 不懂

     • DDR SDRAM是对SDRAM的一种增强。
     • 通过使用两个时钟沿作为控制信号，从而使DRAM 速度翻倍。
     • 不同类型的DDR SDRAM是用提高有效带宽的很小的预取缓冲区的大小来划分的:
       
       • DDR(2位)
       • DDR2(4位)
       • DDR3(8位)
   • Rambus DRAM(RDRAM). 不懂
     
     • 这是一种私有技术，它的最大带宽比DDR SDRAMD的更高。
   • 视频 RAM(Video RAM,VRAM). 不懂
     
     • 它用在图形系统的帧缓冲区中，VRAM的思想与FPM类似，两个主要区别是
       
       • VRAM的输出通过依次对内部缓冲区的整个内容进行移位得到。
       • VRAM允许对存储器并行地读或写。

5. 非易失性存储器(ROM)。

   • 非易失性存储器(nonvolatie memory)即使在关电后，也仍然保存他们的信息。
     
     • DRAM和SRAM是易失的(volatile).
   • 由于历史原因，虽然ROM有的类型既可以读也可以写，但是它们整体被称为只读存储器(Read-Only Memory,ROM)。

   ROM通过以它们能够被写的次数和对他们进行重编程的方式所用的机制区分。

   • PROM (Programmable ROM,可编程ROM)只能够被编程一次。PROM的每个存储器有一个熔丝，它只能用高电流熔断一次。

   • 可擦写可编程ROM(Erasable Programmable ROM,EPROM)有一个透明的石英窗口，允许光到达存储单元。

     • 紫外线光照射过窗口，EPROM单元就被清除为0.
     • 对EPROM编程通过使用一种把1写入EPROM的特殊设备完成。

     • EPROM 可擦写次数达到1000次

       • 电子可擦除PROM(EEPROM)类似于EPROM,
       • 但是它不需要一个物理上独立的编程设备，直接在印刷电路卡上编程。EEPROM能够被编程次数的数量级可以达到10^5次。

   闪存(flash memory)也是一类非易失性存储器，基于EEPROM,已经成为一种重要的存储设备。

   • 在6.1.3节，我们会仔细研究一种新型的基于闪存的磁盘驱动器，称为固态硬盘(Solid State Disk,SSD).
     
     • 它能够提供相对于传统旋转磁盘更快速，更强健和更低耗能的选择。

   存储在ROM设备中的程序通常称为固件(firmware)。

   • 一些系统在固件中提供了少量基本的输入和输出函数。
     
     • 例如，PC的BIOS(基本输入/输出系统)的例程。

6. 访问主存

   数据流通过称为总线(bus)的共享电子电路在处理器和DRAM主存之间来来回回。

   • 总线事务(bus transaction):每次CPU和主存之间的数据传送都是通过一系列步骤来完成的，这些步骤称为总线事务(bus transaction).
     
     • 读事务(read transaction): 主存把数据给CPU。
     • 写事务(write transaction): CPU把数据写入主存。

   总线是一组并行的导线，能携带地址，数据和控制信号。

   • 取决于总线的设计，数据和地址信号可以使用一条，也可以使用不同的。
   • 同时，两个以上的设备也能共享一根总线。
     
     • 控制线携带的信号为同步事务，标示当前执行的事务类型。

   示例计算机系统的配置，CPU芯片，I/O桥的芯片组，组成DRAM的存储器模块。

   

   • 有一对总线
     
     • 系统总线: 链接CPU和I/O桥。
     • 存储器总线:链接I/O桥和主存。

   • I/O桥

     • 将系统总线的电子信号翻译成存储器总线的电子信号。
     • I/O桥也将系统总线，存储器总线连接到I/O总线。
       
       • 磁盘和图形卡这样I/O设备共享I/O总线。

     关于总线设计的注释
     总线设计是计算机系统中的一个复杂而且变化迅速的方面。不同的厂商提出了不同的总线体系结构，作为产品差异化的一种方式。
     

     • Intel 系统使用北桥(northbridge)和南桥(southbridge)的芯片组分别将CPU连接到存储器和I/O设备。
     • 在比较老的系统，Pentium和Core 2 系统中，前端总线(Front Side Bus,FSB)将CPU连接到北桥。
     • AMD 将 FSB 替换为 超传输(HyperTransprot)互联.
     • Core i7 使用的是快速通道(QuickPath)互联。

   接下来我们会集中于存储器总线上。

   movl A,%eax
   

   • 这里地址A的内容被加载到寄存器%eax中，有以下步骤。
     
     • CPU芯片上称为总线接口的电路发起总线上的读事务。
     • CPU将地址A放到系统总线上。
     • I/O桥将信号传递到存储器总线。
     • 主存感觉到存储器总线上的地址信号，从存储器总线读地址，从DRAM取出数据字，并将数据写到存储器总线。
     • I/O桥将信号翻译称系统总线信号，然后沿着系统总线传递。
     • 最后,CPU感受到系统总线上的数据，从总线上读数据，拷贝到寄存器中。

   如果是写事务

   movl %eax，A
   

   • 这里寄存器%eax的内容写入地址中中，有以下步骤。
     
     • CPU将地址放到系统总线。存储器从存储器总线读出地址，并等待数据到达。
     • CPU将数据放到系统总线。主存从存储器总线读出数据，并拷贝到DRAM中。
     • 以上两个步骤是并行的。(如果数据总线和地址总线分开的话)

6.1.2 磁盘存储

磁盘是广为应用的保存大量数据的存储设备，存储数据的数量级可以达到1TB,1PB等等，而基于RAM的 从几百到几千M字节。不过，从DRAM中读比磁盘快10万倍，从SRAM读比磁盘快100万倍。

6.1.2.1 磁盘构造

磁盘是由盘片(platter)构成的.

• 每个盘片有两面或者称为表面(surface)。

• 盘片中央有一个可以旋转的主轴(spindle)，它使得盘片以固定的旋转速率(rotational rate)旋转，通常是5400~15 000转每分钟(Revolution Per Minute,RPM)

  • 磁盘通常含一个或多个这样的盘片，并封装到一个密封的容器里。

如图，展示了一个典型的磁盘表面的结构。

• 每个表面是由一组称为磁道(track)的同心圆组成的。
  
  • 每个磁道被划分为一组扇区(sector)。
    
    • 每个扇区包含相等数量的数据位(通常是512字节)，这些数据编码在扇区的磁性材料中。
    • 扇区之间由一些间隙(gap)分隔
      
      • 不存储数据
      • 间隙存储用来标识扇区的格式化位。

• 磁盘是由一个或多个叠放在一起的盘片组成，被封装在密封包装。

  • 整个装置称为磁盘驱动器(disk drive),我们通常简称为磁盘(disk).

  • 有时又叫旋转磁盘(rotating disk),使之区别基于闪存的固态硬盘(SSD)。

    • SSD没有可移动的地方

  • 磁盘商通常用术语柱面(cylinder)描述多个盘片。的构造 。

    • 柱面是所有盘片表面上到主轴中心的距离相等的磁道集合。
    • 例如，一个驱动器有三个盘片，六个面。那么柱面k是六个磁道k的集合。

6.1.2.2 磁盘容量

• 远古时期，磁道上的扇区是固定的，所以扇区的数目由靠内磁道能记录的扇区数决定。

• 现在通过多区记录技术。

  • 在这种技术中，柱面的集合被分割为不可相交的子集合，称为记录区。
    
    • 每个区包含一组连续的柱面。
    • 一个区的每个柱面都有相同的扇区数。
      
      • 扇区数也是由一个区最里面磁道的扇区数决定。

• 下面给出一个容量计算公式。

  

G，M, K大小依赖于上下文，磁盘和RAM中所对应的大小一般不同。

6.1.2.3 磁盘操作

//磁盘想暂时跳过。之后看。

6.1.3 固态硬盘 暂时跳过

6.1.4 存储技术趋势 暂时跳过

6.2 局部性

• 局部性(locality):倾向于引用临近于其他最近引用过的数据项的数据项。或者最近引用过的数据项本身。

  • 这种倾向被称为局部性原理，是一个持久的概念，对硬件，软件设计都有极大影响。

• 局部性通常有两种不同的形式:

  • 时间局部性(temporal locality).
    
    • 被引用过一次的存储器很可能在不远的将来再被多次引用。
  • 空间局部性(spatial locality).
    
    • 一个存储位置被引用了一次，在不远的将来，很可能引用附近的位置。

• 现代计算机系统各个层次都利用了局部性。

  • 硬件层，局部性原理允许计算机设计者引入高速缓存存储器。
    
    • 保存最近被引用的指令和数据项，从而提高对主存的访问速度。

  • 操作系统级

    • 局部性原理允许使用主存作为虚拟地址空间最近被引用块的高速缓存。
    • 利用主存缓存磁盘文件系统最近使用的磁盘块。

  • 应用程序设计

    • Web浏览器将最近被引用的文档放到本地磁盘上，利用的就是时间局部性。

6.2.1 对程序数据引用的局部性

• 考虑这个简单函数的局部性。

  • sum具有良好的时间局部性

    • 在一段时间内被多次访问。

  • v数组 具有良好的空间局部性。

    • 一段时间内临近的元素被多次访问

  • 所以该程序具有良好的局部性。

• 像sumvec这样顺序访问一个向量中每个元素的函数，称为具有步长为1的引用模式(stride-1 reference pattern)。

  • 有时称步长为1的引用模式叫做顺序引用模式。
  • 每隔k个访问，叫做步长为k的引用模式。
  • 步长为1的引用模式是空间局部性常见和最重要的来源。
    
    • 步长越大，空间局部性越低。

• 对于二维数组，两种不同的循环方式，空间局部性的差异十分大。

  • 行优先顺序，是最好的。

6.2.2 取指令的局部性

因为程序指令被放在存储器中，CPU需要读出这些指令，所以也能取指令的局部性。

• 顺序执行:良好的空间局部性。

• for: 良好的时间局部性。

• 代码区别于数据的地方，执行后，不会被修改。

6.2.3 小结

在我们学习了高速缓存存储器以及它们是如何工作的之后，我们会介绍如何用高速缓存命中率和不命中率来量化局部性的概念。

6.3 存储器层次结构

6.3.1 存储层次结构中的缓存

一般而言，高速缓存(cache,读作"cash")是一个小而快速的存储设备，它作为存储在更大，也更慢的设备中的数据对象的缓冲区域。使用高速缓存的过程称为缓存(caching,读作"cashing")。

• 存储器层次结构的中心思想是:层次结构中的每一层都是来自较低一层的缓存。

• 第k+1层被分为连续的数据对象片(chunk),称为块(block)。

  • 数据总是以块作为传送单元，在存储层间。
  • 传输一个字节，和传输一个块的时间上差不多
  • 块使空间局部性得到发挥

• 缓存命中

• 缓存不命中

  • 替换/驱逐 块
  • 牺牲块
  • 替换策略
    
    • 随机替换策略
    • 最近最少被使用替换策略(LRU)

• 缓存不命中的种类

  • 一个空的缓存称为冷缓存

    • 此时的不命中叫做冷不命中，强制性不命中。
    • 短暂的事件。
      
      • 在缓存热身后的稳定状态不会出现。

  • 冲突不命中

    • 限制性的放置策略中可能出现
  • 容量不命中
    
    • 工作集超过缓存大小。

• 缓存管理

  • 管理缓存可以是硬件，也可以是软件，可以是两者的结合。
    
    • 寄存器文件:编译器管理.
    • L1，L2，L3:内置在缓存中的硬件逻辑管理。
    • DRAM，内存 由地址翻译硬件和操作系统共同管理。
    • 本地磁盘: 由软件管理。

6.3.2 存储器层次结构概念小结

基于缓存的结构行之有效。

• 较慢的存储器比块的存储器便宜。
• 能很好利用局部性。
  
  • 利用时间局部性:由于时间局部性，同一数据对象可能被多次使用，一旦一个数据对象在第一次不命中时被拷贝到缓存中，我们就会期望后面对该目标有一些的缓存命中。
  • 利用空间局部性:块通常包含多个数据对象，由于空间局部性，我们希望对该块中其他对象节约的访问时间补偿不命中时的拷贝时间。

6.4 高速缓存存储器

6.4.1 通用的高速缓存存储器结构。

• S个高速缓存组。
• 每个组有E个高速缓存行
• 每行是由一个B=2^b字节的数据块组成的，一个有效位，还有t=m-(b+s)个标记位。
• m:地址长度

高速缓存的结构可以用元组(S,E,B,m)描述。

• 高速缓存的大小C指所有块大小的和。标记位和有效位不包括在内。
  
  • C=S*E*B;

高速缓存如何寻址(以地址A)?

• S->标记位->块偏移
• 对应组选择，行匹配，字抽取

6.4.2 直接映射高速缓存

根据E高速缓存分为不同的类

• E=1时叫直接映射高速缓存
• E>1时叫组相连高速缓存
• S=1时叫全相连高速缓存

抽取请求字的过程，分为三步:

• 组选择
• 行匹配
• 字抽取

不命中时

• 行替换

过于简单就不详细描述了。

直接映射高速缓存中的冲突不命中

• 如果 x[i]与y[i]恰好在同一个高速缓存组。

  • 会不停的冲突不命中。
  • 在x和y块之间不停的抖动。
    
    • 抖动描述的就是，高速缓存反复加载和驱逐相同的高速缓存块。

• 避免方法

  • 改变x数组大小。
  • 组相连高速缓存

为什么用中间的位来做索引。

如果用高位作索引，那么组内的数据在物理地址也是相邻的。不能充分利用空间的局部性。

6.4.3 组相连高速缓存

一个1<E<C/B的高速缓存通常称为E路组相连高速缓存。

组相连高速缓存中的组选择

与之前的一样，通过组索引位。

组相连高速缓存中的 行匹配 和 字选`。

有效位和标记位

组相连高速缓存中不命中时的行替换

• 随机
• 最不常用(Least-Frequently-Used,LFU)
  
  • 频数最低
• 最近最少使用(Least-Recently-Used,LRU)
  
  • 时间最久远

6.4.4 全相连高速缓存

一个全相联高速换粗(full associative cache)是由一个包含所有高速缓存行的组(即E=C/B)组成的。

全相连的组选择

• 只有一个组没啥好说的

全相连的 行匹配 和 子选择

• 和组相连一样，但是规模更大。
  
  • 所以只适用于做小的高速缓存
    
    • 如TLB，缓存页表项

6.4.5 有关写的问题

处理写命中:

• 直写:立即将w的高速缓存块写会到紧接着的下一层。

  • 优点:简单
  • 缺点:引起总线流量，速度慢

• 写回:尽可能地推迟操作，只有当替换算法要驱逐时更新。

  • 优点:减少总线流量。
  • 缺电:复杂，额外维护一个修改位。

处理写不命中

• 写分配:加载相应的低一层块到高速缓存中，然后更新这个高速缓存块。

  • 跟写回搭配。

• 写不分配:直接写到低层。

  • 跟直写搭配。

6.4.6 一个真实的高速缓存层次结构的解剖

• 高速缓存，指令，数据
  
  • 只保存指令的高速缓存叫做i-cache
  • 只保存程序数据的高速缓存叫做d-cache
  • 两者都保存的高速缓存叫做unified cache

6.4.7 高速缓存参数的性能影响

• 不命中率(miss rate) :不命中数量/引用数量。
• 命中率(hit rate) : 1-不命中率 。
• 命中时间(hit time): 从高速缓存传送一个字到CPU的时间。
• 不命中处罚(miss penalty):由于不命中的额外时间。
  
  • L1:10
  • L2:40
  • L3:100

优化高速缓存的成本和性能的折中是一项很精细的工作，这里只能简单讨论。

1. 高速缓存大小的影响

   • 提高命中率
   • 增加命中时间

2. 块大小的影响

   • 更好利用空间局部性，提高命中率
   • 影响时间局部性
   • 不命中处罚越长
   • 现代系统一般在32~64字节中。

3. 相连度影响

   • 降低了高速缓存中的抖动的可能性
   • 好的替换策略能大大增强效率(提高命中率)。
   • 价格更昂贵，命中时间更长，不命中处罚更多。
   • 所以是处罚时间((1-命中率)*不命中处罚)和命中时间的折中。
     
     • 不命中处罚越高用这个。让处罚时间更少
       
       • 命中率提高
       • 不命中处罚增长忽略不计。

4. 写策略影响

   • 层次越往下，越用写回。

6.5 编写高速缓存友好代码

与之前6.2.1 类似的介绍

• 对局部变量反复利用

• 步长为1的循环

• 二维数组，先行遍历

6.6 综合:高速缓存对程序性能的影响

6.6.1 存储器山

一个程序从存储系统中读数据的速率称为读吞吐量(read throughput),或者有时称为读带宽(rand bandwidth)。

• 通过读吞吐量来分析存储器性能。

存储器山是一种综合研究存储器层次结构的工具。它反映了存储器层次结构中不同层次的带宽。也反映了具有不同的时间局部性与空间局部性的程序的性能。通过分析存储器山的数据，还可以看出存储器系统的部分硬件参数。

6.6.2 重新排列循环以提高空间局部性

考虑n*n的矩阵乘法问题。

C[i][j]+=A[i][k]*B[k][j]

• i,j,k三层循环的顺序无所谓，都能得到正确的结果。
  
  • 但是时间差异却十分大。

代码如下:

显然能看出kij版本和ikj版本都十分优秀

• tisp:r=A[i][k] 在i,k循环或k,i循环下，其实差不了多少，因为n次循环才调用一次。
• 也因此上图左右相邻的两个版本的复杂度都会差不多。

网络旁注;使用分块来提高空间局部性
就是类似将数据结构尽量设计成块。能提高效率，但会使得代码更难懂。它更适合优化编译器或者频繁执行的库函数。

6.6.3 在程序中利用局部性

• 精力注重内循环
• 步长为1,
• 一旦读入一个对象，就尽可能多使用它。

6.7 小结

• 基本存储技术包括RAM,ROM和磁盘。

  • RAM有两个类型
    
    • SRAM
    • DRAM
      
      • SDRAM
      • DDR

• 程序通过编写良好的局部性代码利用好缓存。