【正文】 統(tǒng)結(jié)構(gòu)北京理工大學計算機學院 高速緩沖存儲器 (Cache ) 地址映像： 把存放在主存中的程序按照某種規(guī)則裝入到 Cache中，并建立主存地址與 Cache地址之間的對應(yīng)關(guān)系。 地址變換： 當程序已經(jīng)裝入到 Cache之后，在實際運行過程中，把主存地址變換成 Cache地址。 在選取地址映像方法要考慮的主要因素： 地址變換的硬件容易實現(xiàn)；地址變換的速度要快；主存空間利用率要高；發(fā)生塊沖突的概率要小。 第 4章 計算機體系結(jié)構(gòu) 計算機系統(tǒng)結(jié)構(gòu)北京理工大學計算機學院 全相聯(lián)映像及其變換 映像規(guī)則： 主存中的任意一塊都可以映像到 Cache中的任意一塊。 如果 Cache的塊數(shù)為 Cb，主存的塊數(shù)為 Mb，映像關(guān)系共有： Cb Mb種。 用硬件實現(xiàn)非常復(fù)雜。 在虛擬存儲器中，全部用軟件實現(xiàn)。 第 4章 計算機體系結(jié)構(gòu) 計算機系統(tǒng)結(jié)構(gòu)北京理工大學計算機學院 直接映像及其變換 映像規(guī)則： 主存中一塊只能映像到 Cache的一個特定的塊中。 計算公式： b＝ B mod Cb，其中： b為 Cache的塊號， B是主存的塊號， Cb是 Cache的塊數(shù)。 整個 Cache地址與主存地址的低位部分完全相同。 第 4章 計算機體系結(jié)構(gòu) 計算機系統(tǒng)結(jié)構(gòu)北京理工大學計算機學院 組相聯(lián)映像及其變換 組相聯(lián)映像實際上是全相聯(lián)映像和直接映像的折衷方案 ， 所以其優(yōu)點和缺點介于全相聯(lián)和直接映像方式的優(yōu)缺點之間 。 映像規(guī)則（位選擇映像算法）： 主存和 Cache按同樣大小劃分成塊；Cache劃分成大小相同的組，主存按照Cache組容量分區(qū)。主存每個分區(qū)中的塊容量與 Cache的組容量相等。 主存塊到 Cache組之間采用直接 映像 方式。在對應(yīng)的組內(nèi)部采用全相聯(lián) 映像 方式，組內(nèi)隨便放。 第 4章 計算機體系結(jié)構(gòu) 計算機系統(tǒng)結(jié)構(gòu) 北京理工大學計算機學院 Cache替換算法及其實現(xiàn) Cache替換算法使用的時間： 發(fā)生塊失效，且可以裝入新調(diào)入塊的幾個Cache塊都已經(jīng)被裝滿時。 直接映像方式實際上不需要替換算法。 全相聯(lián)映像方式的替換算法最復(fù)雜。 第 4章 計算機體系結(jié)構(gòu) 計算機系統(tǒng)結(jié)構(gòu)北京理工大學計算機學院 Cache的一致性問題 本節(jié)討論的內(nèi)容僅限于單處理機、單存儲器。 造成 Cache與主存的不一致的原因： (1) 由于 CPU寫 Cache，沒有立即寫主存。 (2) 由于 IO處理機或 IO設(shè)備寫主存。 第 4章 計算機體系結(jié)構(gòu) 計算機系統(tǒng)結(jié)構(gòu)北京理工大學計算機學院 Cache的更新算法： (1) 寫直達法 (寫通過法 ), Writethrough CPU在執(zhí)行寫操作時，把數(shù)據(jù)同時寫入Cache和主存。 (2) 寫回法 (抵觸修改法 )WriteBack CPU數(shù)據(jù)只寫入 Cache，不寫入主存，僅當替換時，才把修改過的 Cache塊寫回到主存。 第 4章 計算機體系結(jié)構(gòu) 計算機系統(tǒng)結(jié)構(gòu)北京理工大學計算機學院 寫 Cache的兩種方法： (1) 不按寫分配法：在寫 Cache不命中時，只把所要寫的字寫入主存。 (2) 按寫分配法：在寫 Cache不命中時，還把一個塊從主存讀入 Cache。 目前，在寫回法中采用按寫分配法，在寫直達法中采用不按寫分配法。 第 4章 計算機體系結(jié)構(gòu) 計算機系統(tǒng)結(jié)構(gòu)北京理工大學計算機學院 Cache的預(yù)取算法 預(yù)取算法 有如下幾種： (1) 按需?。涸诔霈F(xiàn) Cache不命中時，把一個塊取到 Cache中來。 (2) 恒預(yù)取：無論 Cache是否命中，都把下一塊取到 Cache中。 (3) 不命中預(yù)取：當 Cache不命中，把本塊和下一塊取到 Cache中。 主要考慮因素： 命中率的提高； Cache與主存之間通信量的增加。 第 4章 計算機體系結(jié)構(gòu) 計算機系統(tǒng)結(jié)構(gòu)北京理工大學計算機學院 重疊方式 指令的重疊執(zhí)行方式 順序執(zhí)行方式 執(zhí)行 n條指令所用的時間為： 如果每段時間都為 t，則執(zhí)行 n條指令所用的時間為： T=3nt ?????niiii tttT1( ）執(zhí)行分析取指令取指 k 分析 k 執(zhí)行 k 取指 k+1 分析 k+1 執(zhí)行 k+1 第 5章 計算機體系結(jié)構(gòu) 計算機系統(tǒng)結(jié)構(gòu)北京理工大學計算機學院 主要優(yōu)點： 控制簡單，節(jié)省設(shè)備。 主要缺點： 執(zhí)行指令的速度慢，功能部件的利用率很低。 一次重疊執(zhí)行方式 一種最簡單的流水線方式。 如果兩個過程的時間相等，則執(zhí)行 n條指令的時間為： T=(1+2n)t 第 5章 計算機體系結(jié)構(gòu) 計算機系統(tǒng)結(jié)構(gòu)北京理工大學計算機學院 取指 k 分析 k 執(zhí)行 k 取指 k+1 分析 k+1 執(zhí)行 k+1 取指 k+2 分析 k+2 執(zhí) 主要優(yōu)點： 指令的執(zhí)行時間縮短。 功能部件的利用率明顯提高。 主要缺點： 需要增加一些硬件。 控制過程稍復(fù)雜。 第 5章 計算機體系結(jié)構(gòu) 計算機系統(tǒng)結(jié)構(gòu)北京理工大學計算機學院 二次重疊執(zhí)行方式 如果三過程的時間相等，執(zhí)行 n條指令的時間為： T=(2+n)t 理想情況下同時有三條指令在執(zhí)行。 處理機的結(jié)構(gòu)要作比較大的改變，必須采用先行控制方式。 取指 k+2 分析 k+2 執(zhí)行 k+2 取指 k+1 分析 k+1 執(zhí)行 k+1 取指 k 分析 k 執(zhí)行 k 第 5章 計算機體系結(jié)構(gòu) 計算機系統(tǒng)結(jié)構(gòu)北京理工大學計算機學院 先行控制方式的原理 采用二次重疊執(zhí)行方式，必須解決兩個問題： (1) 有獨立的取指令部件、指令分析部件 和指令執(zhí)行部件。 獨立的控制器：存儲控制器、指令控制器、運算控制器。 (2) 要解決訪問主存儲器的沖突問題 取指令、分析指令、執(zhí)行指令都可能要訪問存儲器。 第 5章 計算機體系結(jié)構(gòu) 計算機系統(tǒng)結(jié)構(gòu)北京理工大學計算機學院 解決訪存沖突的方法： (1) 采用低位交叉存取方式： 這種方法不能根本解決沖突問題。 取指令、讀操作數(shù)、寫結(jié)果。 (2) 兩個獨立的存儲器 ： 獨立的指令存儲器和數(shù)據(jù)存儲器。 如果再規(guī)定，執(zhí)行指令所需要的操作數(shù)和執(zhí)行結(jié)果只寫到通用寄存器，那么，取指令、分析指令和執(zhí)行指令就可以同時進行。 在許多高性能處理機中，有獨立的指令 Cache和數(shù)據(jù) Cache。這種結(jié)構(gòu)被稱為哈佛結(jié)構(gòu)。 第 5章 計算機體系結(jié)構(gòu) 計算機系統(tǒng)結(jié)構(gòu)北京理工大學計算機學院 (3) 采用先行控制技術(shù) 先行控制技術(shù)的關(guān)鍵是緩沖技術(shù)和預(yù)處理技術(shù)。 緩沖技術(shù)是在工作速度不固定的兩個功能部件之間設(shè)置緩沖棧，用以平滑它們的工作。 在采用了緩沖技術(shù)和預(yù)處理技術(shù)之后，運算器能夠?qū)Ｐ挠跀?shù)據(jù)的運算，從而大幅度提高程序的執(zhí)行速度。 第 5章 計算機體系結(jié)構(gòu) 計算機系統(tǒng)結(jié)構(gòu)北京理工大學計算機學院 第 5章 相關(guān)處理方法： 推后讀 設(shè)置相關(guān)專用通路 計算機體系結(jié)構(gòu) 計算機系統(tǒng)結(jié)構(gòu)北京理工大學計算機學院 第 5章 流水方式 空間并行性 ： 設(shè)置多個獨立的操作部件。 多操作部件處理機。 超標量處理機。 時間并行性 ： 采用流水線技術(shù)。 不增加或只增加少量硬件就能使運算速度提高幾倍。 流水線處理機。 超流水線處理機。 計算機體系結(jié)構(gòu) 計算機系統(tǒng)結(jié)構(gòu)北京理工大學計算機學院 流水線工作原理 簡單流水線 流水線的每一個階段稱為流水步、流水步驟、流水段、流水線階段、流水功能段、功能段、流水級、流水節(jié)拍等。 分析器 分析 k+1 流水 鎖存器 執(zhí)行部件 執(zhí)行 k 流水 鎖存器 輸 入 輸 出 ?t1 ?t2 第 5章 計算機體系結(jié)構(gòu) 計算機系統(tǒng)結(jié)構(gòu)北京理工大學計算機學院 流水線的時空圖 一條簡單流水線的時空圖： 分析 k 分析 k+1 分析 k+2 分析 k+3 執(zhí)行 k 執(zhí)行 k+1 執(zhí)行 k+2 執(zhí)行 k+3 時間 空間 0 t1 t2 t3 t4 t5 第 5章 計算機體系結(jié)構(gòu) 計算機系統(tǒng)結(jié)構(gòu)北京理工大學計算機學院 流水線的主要特點 (1)只有連續(xù)提供同類任務(wù)才能充分發(fā)揮流水線的效率 對于指令流水線：要盡量減少因條件分支造成的 “ 斷流 ” 。 對于操作部件：主要通過編譯技術(shù)，盡量提供連續(xù)的同類操作。 (2)在流水線的每一個流水線段中都要設(shè)置一個流水鎖存器 時間開銷：流水線的執(zhí)行時間加長 是流水線中需要增加的主要硬件之一。 第 5章 計算機體系結(jié)構(gòu) 計算機系統(tǒng)結(jié)構(gòu)北京理工大學計算機學院 (3)各流水段的時間應(yīng)盡量相等 流水線處理機的基本時鐘周期等于時間最長的流水段的時間長度。 (4)流水線需要有 “ 裝入時間 ” 和 “ 排空時間 ” 第 5章 計算機體系結(jié)構(gòu) 計算機系統(tǒng)結(jié)構(gòu)北京理工大學計算機學院 流水線的分類 線性流水線與非線性流水線 流水線的各個流水段之間是否有反饋信號 線性流水線 (Linear Pipelining) 每個流水段都流過一次，且僅流過一次。 非線性流水線 (Nonlinear Pipelining) 在流水線的某些流水段之間有反饋回路或前饋回路。 線性流水線能夠用流水線連接圖唯一表示 。非線性流水線必須用流水線連接圖 +流水線預(yù)約表等共同表示。 第 5章 計算機體系結(jié)構(gòu) 計算機系統(tǒng)結(jié)構(gòu)北京理工大學計算機學院 按照流水線的級別來分 處理機級流水線 , 又稱為指令流水線。 (Instruction Pipelining) 例如：在采用先行控制器的處理機中，各功能部件之間的流水線。 先行指令 緩沖棧 輸入 先行控制方式 中的指令流水線 先行指令 分析器 先行讀數(shù)棧 先行操作棧 取指 譯碼 取操作數(shù) 指令執(zhí) 行部件 后行 寫數(shù)棧 輸出 執(zhí)行 寫結(jié)果 第 5章 計算機體系結(jié)構(gòu) 計算機系統(tǒng)結(jié)構(gòu)北京理工大學計算機學院 部件級流水線 （操作流水線），如浮點加法器流水線。 處理機之間的流水線稱為 宏流水線 (Macro Pipelining)。 每個處理機對同一個數(shù)據(jù)流的不同部分分別進行處理。 求階差 輸入 輸出 ?t1 對階 尾數(shù)加 規(guī)格化 ?t2 ?t3 ?t4 P1 輸 入 任務(wù) 1 M M … P2 任務(wù) 2 M P3 任務(wù) 3 輸 出 第 5章 計算機體系結(jié)構(gòu) 計算機系統(tǒng)結(jié)構(gòu)北京理工大學計算機學院 單功能流水線與多功能流水線 單功能流水線 ： 只能完成一種固定功能的流水線。 多功能流水線 ： 流水線的各段通過不同連接實現(xiàn)不同功能。 第 5章 計算機體系結(jié)構(gòu) 計算機系統(tǒng)結(jié)構(gòu)北京理工大學計算機學院 靜態(tài)流水線與動態(tài)流水線 靜態(tài)流水線： 同一段時間內(nèi)，多功能流水線中的各個功能段只能按照一種固定的方式連接，實現(xiàn)一種固定的功能。 只有連續(xù)出現(xiàn)同一種運算時，流水線的效率才能得到充分的發(fā)揮。 動態(tài)流水線： 在同一段時間內(nèi)，多功能流水線中的各段可以按照不同的方式連接，同時執(zhí)行多種功能。 第 5章 計算機體系結(jié)構(gòu) 計算機系統(tǒng)結(jié)構(gòu)北京理工大學計算機學院 線性流水線的性能分析 衡量流水線性能的主要指標有： 吞吐率、加速比和效率 吞吐率（ Though Put） 求流水線吞吐率的最基本公式： TP = n / Tk n為任務(wù)數(shù) , Tk為完成 n個任務(wù)所用時間。 各段執(zhí)行時間相等，輸入連續(xù)任務(wù)情況下完成 n個連續(xù)任務(wù)需要的總時間為： Tk= (k+n1) ?t k為流水線的段數(shù)， ? t為時鐘周期 第 5章