【正文】 第三章 存儲系統(tǒng) 2 主要內容 存儲系統(tǒng)原理 虛擬存儲器 高速緩沖存儲器（ Cache） 三級存儲系統(tǒng) 3 體系結構的改進 ? 馮 ?諾依曼機的改進： ? 目的： 存放計算機系統(tǒng)中所需要處理的程序與數(shù)據 。 ? 主存儲器： 用以存放正在運行的程序與數(shù)據 。 ? 輔助存儲器： 存放等待運行的程序與數(shù)據。 ? 通用寄存器組： 是存放那些最經常用到的數(shù)據。 ? 存儲系統(tǒng)： 兩個或兩個以上的速度、容量、價格不同的存儲器采用硬件，軟件或軟、硬件結合的辦法聯(lián)接成一個系統(tǒng)。 運算器為中心 存儲器為中心 4 存儲系統(tǒng)原理 第一層 第二層 第三層 第四層 第五層 存儲系統(tǒng)中的存儲部件與關系 速 度 提 高 容 量 增 加 通用寄存器 M1 高速緩沖存儲器 M2 主存儲器 M3 脫機大容量存儲器 M5 輔助存儲器 M4 5 計算機存儲系統(tǒng) 三個基本參數(shù) ? 存儲容量 S： 以字節(jié)數(shù)表示，單位為 B、 KB、 MB、 GB、 TB等。 ? 存儲器速度 T： 存儲器訪問周期。 ? 存儲器價格 C： 表示單位容量的平均價格。 6 存儲系統(tǒng)的目標 ? 目標：大容量；高速度；低價格 ? 存儲系統(tǒng)中存儲器件現(xiàn)狀： ? 與 CPU速度相比，存儲器速度較低，目前已成為計算機系統(tǒng)速度性能瓶頸。 ? 當前電子技術發(fā)展，存儲器器件有： （ 1）容量越大，速度越低，反之亦然； （ 2）速度越高，價格越高； 7 存儲系統(tǒng)的層次結構 ? 距離 CPU越近的存儲器容量越小，速度越高。 ? 最常使用的數(shù)據在 M1中，其次在 M2中，依 次類推，最少使用數(shù)據在 Mn中?？拷?CPU存儲器中的數(shù)據一般是其下一層存儲器中數(shù)據的子集。 CPU M1 M2 Mn 8 存儲系統(tǒng)的基本特征 ? 包含性： 在小容量的存儲器中，一定能在較大容量存儲器中找到所存信息的副本。 ? 一致性： 當副本被修改，要求各存儲器保持同一信息的一致性。 9 存儲系統(tǒng)設計 ? 存儲系統(tǒng)的設計目標： M1的速度， Mn的容量和價格。 ? 層次存儲系統(tǒng)的設計依據： 程序局部性原理。 ? 層次存儲系統(tǒng)的工作過程： CPU訪存時，首先訪問 M1 ，若不能發(fā)現(xiàn)所需數(shù)據，進而訪問 M2，并把所需數(shù)據調入 M1。若仍不能發(fā)現(xiàn)數(shù)據，接著訪問 Mi，依次類推，直至 Mn。 10 層次結構存儲器的應用（ 1） ? CACHE—主存儲器結構 為了提高主存速度，使主存和 CPU速度匹配。一般用硬件實現(xiàn)。 CPU Cache 主存 輔助硬件 11 層次結構存儲器的應用（ 2） ? 主存儲器 —輔助存儲器結構 為了彌補主存的容量不足 ,采用虛擬存儲技術。用軟件或軟件和硬件結合的方法實現(xiàn)。 CPU 主存 輔存 輔助軟硬件 12 層次存儲器性能參數(shù)（二層結構） ? 設存儲系統(tǒng)的二個層次為： M1和 M2， M1和 M2的容量為： S S2 訪存時間為： T T2 每位價格為： C C2 ? 平均價格為： ? 當 S1S2時， C=C2。 212211ssscscc???13 層次存儲器性能參數(shù)（二層結構） ? 命中率 H： (CPU訪問存儲系統(tǒng)時，在 M1中找到所需數(shù)據的概率。 設訪問 M1和 M2的次數(shù)為 N1和 N2,則： ? 不命中率 或 失效率 F為在 M1中不能發(fā)現(xiàn)所需數(shù)據的概率： F = 1H 211NNNH??14 層次存儲器性能 ? 一級 Cache的不足： ? 其命中率不可能達到要求的 。 ? 多級 Cache：通常采用兩級或三級 Cache。 ? 如通用寄存器等，提高數(shù)據的重復利用率。 ? 實際應用中還是很難滿足需求。 15 預取技術 ? 不命中時，在數(shù)據從主存中取出送往 CPU時，把主存中臨近幾個單元的數(shù)據（稱為一個數(shù)據塊）取出送入 CPU。利用了程序的局部性原理。 ? 設 n： Cache的塊大小與數(shù)據塊重復使用次數(shù)的乘積， H：原來的命中率， H?：采用預取技術后的命中率。 ? 如 Cache塊大小為 4個字，預取到 Cache中的數(shù)據的重復利用率為 5次， Cache原來的命中率為 ，那么采用預取之后的命中率 H?為 。 nnHH139。???16 頻帶平衡 ? 頻帶寬度： 單位時間內所能訪問的數(shù)據量。 ? 問題：存儲器與 CPU的訪問速度不匹配。存儲器訪問的速度能否跟上系統(tǒng)的要求，是影響整個計算機系統(tǒng)性能的極為重要的關鍵問題，也是系統(tǒng)結構設計者的主要問題。 ? 有三種途徑來解決這個問題： ? 多個 存儲器并行工作 ： 并行 訪問和 交叉 訪問 ? 設置各種 緩沖存儲器 ：如先行緩沖棧，包括預取指令緩沖棧、操作數(shù)先行緩沖棧等 ? 采用 存儲系統(tǒng) ：如 Cache存儲系統(tǒng) 17 并行訪問存儲器 ? 基本思路：通過設置多個存儲模塊，使在一個存取周期內可以訪問多個數(shù)據，以此提高存儲器的速度。 ? 三種方法實現(xiàn)并行存儲器： ? 并行訪問存貯器 ? 交叉訪問存儲器 ? 無訪問沖突存儲器 18 并行訪問存儲器 數(shù)據寄存器 數(shù)據總線 地址總線 地址寄存器 體號 W W1 W2 W3 W4 m1 m2 m3 m4 b a 體內地址 地址寄存器中 高位部分 作為 模塊地址 ，同時訪問多個存儲模塊。若干位 低位地址 進行 多路選擇 。 19 并行訪問存儲器 ——評價 ? 優(yōu)點： 簡單、容易。 ? 缺點： 訪問的沖突大。 ? 主要沖突： ? 取指令沖突（條件轉移，轉移成功，隨后取出指令無用） ? 讀操作數(shù)沖突（需要的多個操作數(shù)不一定都存放在同一個存儲字中，否則可能需要多次讀出） ? 寫數(shù)據沖突（必須湊齊 n個數(shù)才一起寫入存儲器，否則影響頻帶寬度） ? 讀寫沖突（要讀出的一個字和要寫入的一個字處在同一個存儲字內時，無法在一個存儲周期內完成）。 20 多體并行交叉訪問存儲器 模 M主存儲器： 分為 M個存儲體的主存儲器。 同時訪問： 采取同時啟動，完全并行工作的方式； 交叉訪問： 分時啟動，互相錯開一個存儲體存儲周期的1/M，交叉進行工作。 四個存儲體交叉訪問的時間關系 m=4 分時啟動時間圖 主存周期 主存周期 啟動 0體 啟動 1體 啟動 2體 啟動 3體 21 高位交叉訪問存儲器 低位部分：體內地址 b=log2n 高位部分：存儲體體號 a=log2m m: 體數(shù) n：每個體的容量 主要目的：擴大容量 W MDR0 0 1 2 3 … n1 MDR1 n n+1 n+2 n+3 … 2n1 MAR0 MAR3 MDRm1 n(m1) n(m1)+1 n(m1)+2 n(m1)+3 … n(m1) MARm1 譯碼 a b 22 低位交叉訪問存儲器 低位交叉存儲器結構 低位部分：存儲體體號 b=log2m 高位部分：體內地址 a=log2n W MDR0 0 m 2m 3m … (n1)m MDR1 1 m+1 2m+1 3m+1 … (n1)m+1 MAR0 MAR3 MDRm1 m1 2m1 3m1 4m1 … nm1 MARm1 譯碼 a b 分時 訪問 23 例： n=8 m=4多體并行低位交叉編址 0 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 b a 4個體并行 24 低位交叉訪問存儲器 ——分析 ? 采用低位交叉訪問方式工作的 RAM 實際上是一 種流水工作方式。 ? 采用低位交叉訪問存貯器能夠大幅度地提高 主存的速度。 ? 并行存取效率： 背景：由于存在訪問沖突或無效的情況（主要是由于 jmp指令引起），因此主存的存取速度 Tm 不是隨存儲器的個數(shù)增加而線性提高的。例如，在CDC6600中，采用了 32個 RAM體，但只比單個存儲體訪問速度提高了 10 倍左右。 25 轉移概率與并行存儲器 ? 設 k為每個存儲周期能讀取的有效字數(shù)， n個存儲體無沖突訪問時， k=n，完全沖突， n=1。 N為每個存儲周期能讀取的平均有效字數(shù)。 ? 設并行存儲器有 n個存儲體組成，又 P(1)為表示第一條指令為轉移指令的概率， P(2)為 … P(n)為 … 的的概率。試求 N？ ? N又稱為加速倍數(shù)。 ????nkkPkN1)(設：26 轉移概率與并行存儲器 ? 定義： 程序轉移概率 g—表示讀出的指令為轉移指令且轉移成功的概率。 ? 設 p(1)=g；表示讀出的第一條指令為轉移指令的概率。 ? p(2)、 P(3)、 …… )1,2,1( )1()( 2)1())2()1(1()3()1())1(1()2(1???????????????????nkggkPgggPPPgggPPk???27 轉移概率與并行存儲器 ???????????????nknnnggkpkNgggnP111)1(1)( )1()1()( 即? 當 k=n時，表示從前 n1個存儲體中讀出的都不是轉移指令，或轉移不成功，則當 k=n時，不管是否為轉移指令，都將為 n。 ? 當 g=0時，表示讀出的幾條指令都不是轉移指令，此時 N=n。 ? 當 g=1時，表示第一條指令即為轉移指令，此時N=1，為單體。 28 轉移概率與并行存儲器 2468101214160 ggNn)1(1 ???轉移概率 gn 轉移概率 g和并行存貯存貯體 n 間的關系 一般地取 n=8時，效果良好。因為程序的 g一般為 ～ 。 29 無訪問沖突存儲器 ? 低位交叉訪問效率低的原因：存在訪問沖突。 ? 程序中有轉移指令； ? 數(shù)據的隨機性。 ? 關于多維數(shù)組的無沖突訪問存儲器：例子見下頁。 ? 解決方法 ①避免數(shù)據訪問的沖突； ②將存儲體的個數(shù)設為質數(shù)，以實現(xiàn)數(shù)據訪問時位移量和互質。 30 多維數(shù)組的無訪問沖突存儲器 按列訪問有沖突的存儲方案 0號體