【正文】 1992年， 。 一般恒定循環(huán)作為最小啟動循環(huán)。 任一行中與第 1個 “ ”的距離為 2的倍數(shù)的周期都要預留出來 。 實際上，只要在流水段 S4的輸出端到流水段 S3的輸入端中間插入一個非計算延遲 D1。 Computer Architecture, Autumn 2023 動態(tài)調(diào)度方法 ? 一個啟動循環(huán) C，從 C推導出各個起始之間所有可能的時間間隔集合 Gc，稱為啟動間隔集合 ? C=（ 2， 3， 2， 5） ? Gc=（ 2， 3， 5， 7， 9， 10， 14， 15， 17， 19， 21，22， 24， 26。 超標量超流水線處理機： DEC公司的 Alpha等。 超標量處理機典型結(jié)構(gòu)： 多條指令流水線 。有 10個操作部件。 Computer Architecture, Autumn 2023 單發(fā)射與多發(fā)射 單發(fā)射處理機： 每個周期只取一條指令、只譯碼一條指令，只執(zhí)行一條指令，只寫回一個運算結(jié)果。 需要多個取指令部件，多個指令譯碼部件和多個寫結(jié)果部件。 先行指令窗口 ：能夠從指令 Cache中預取多條指令， 能夠?qū)Υ翱趦?nèi)的指令進行數(shù)據(jù)相關(guān)性分析和功能部件沖突檢測。 操作部件的個數(shù)一般多于每個周期發(fā)射的指令條數(shù)。 Computer Architecture, Autumn 2023 ? 有先行指令窗口的超標量處理機的流水線結(jié)構(gòu)取指令 指令譯碼 執(zhí)行指令 寫回結(jié)果F A 1 F A 2 F A 3浮點加法部件指令C ach eIF 1 ID 1 M D 1 M D 2 M D 3 WR 1通用寄存器后行寫數(shù)棧乘除法部件指令C ach eIF 2 ID 2 AL WR 2通用寄存器后行寫數(shù)棧定點算術(shù)邏輯部件IF 3 ID 3 LS先行指令窗口 取數(shù)存數(shù)部件FA ：浮點加減法運算， MD ：乘除法運算， AL ：定點算術(shù)邏輯運算， LS 取數(shù)存數(shù)Computer Architecture, Autumn 2023 多流水線調(diào)度 多條流水線的調(diào)度問題是一個 NP完全問題， 順序發(fā)射（ inorder issue）與亂序發(fā)射（ outorder issue）： 指令發(fā)射順序是按照程序中指令排列順序進行的稱為順序發(fā)射 順序完成 (inorder pletion)與亂序完成 (outorder pletion) 指令完成順序是按照程序中指令排列順序進行的稱為順序完成 多流水線的調(diào)度主要有三種方法： 順序發(fā)射順序完成，順序發(fā)射亂序完成，亂序發(fā)射亂序完成。 6條指令 總的執(zhí)行時間為 9個時鐘周期 ，與順序發(fā)射順序完成調(diào)度方法相比 節(jié)省了一個時鐘周期 。 下面是一個由 4條指令程序的程序： I1： FADD R0, R1 ； R0← （ R0）＋（ R1） I2： FMUL R2, R3 ； R2← （ R2） （ R3） I3： FADD R4, R5 ； R4← （ R4）＋（ R5） I4： FMUL R6, R7 ； R6← （ R6）＋（ R7） 雙流水線超標量處理機，操作部件不采用流水線的時空圖1 2 3 4 5 6 7 8 9 10 11流水線 1 I 1 IF 1 ID1 F AD D WR 1 時鐘周期流水線 2 I 2 IF 2 ID2 F M UL WR 2流水線 1 I3IF 1 ID1 F AD D WR 1流水線 2 I4IF 2 ID2 F M UL WR 2 指令I(lǐng)F ：取指令， ID ：指令譯碼， FADD ：浮點加法， FMUL ：浮點乘法， WR ：寫回結(jié)果Computer Architecture, Autumn 2023 操作部件不采用流水線： 做完 4條指令總共用了 11個周期，有 5個空閑周期。 ? 指令流水線的段數(shù) k一般在 4至 10之間，每個時鐘周期發(fā)射的指令條數(shù) m在2至 4之間。 ? 超標量處理機則正好相反，希望相同操作不要連續(xù)出現(xiàn)。 ? 在理想情況下， N條指令在單流水線標量處理機上的執(zhí)行時間為： T(1,1)＝（ k＋ N－ 1） ?t ? 在每個周期發(fā)射 m條指令的超標量處理機上執(zhí)行的時間為： ? T(m,1)＝（ k＋ ） ?t ? 超標量處理機相對于單流水線標量處理機的加速比為： ? S(m,1)＝ ? 超標量處理機的加速比的最大值為： S(m,1)MAX＝ m N mm?TT mm k NN m k( , )( , )( )( )1 1111?? ?? ?Computer Architecture, Autumn 2023 超流水線處理機 ? 兩種定義： 在一個周期內(nèi)能夠分時發(fā)射多條指令的處理機 指令流水線的功能段數(shù)為 8段或超過 8段的流水線處理機 ? 提高處理機性能的不同方法： 超標量處理機：通過增加硬件資源來提高處理機性能 超流水線處理機：通過各部分硬件的重疊工作來提高 處理機性能。 ? 在超標量處理機中，流水線的有些功能段還可以進一步細分， 例如： ID功能段，可以再細分為：譯碼、讀第一操作數(shù)和讀 第二操作。 超流水線處理機采用的是時間并行性。 ? 超標量處理機的這種要求正好符合一般標量程序的特點。 ? 因此，在超標量處理機中，操作部件一般要采用流水線結(jié)構(gòu) 如果由于某種原因，操作部件不能采用流水線結(jié)構(gòu)，則必須設(shè)置多個相同種類的操作部件 Computer Architecture, Autumn 2023 ? 普通標量處理機，希望相同操作連續(xù)出現(xiàn)。 雙流水線超標量處理機，操作部件采用流水線的時空圖 1 2 3 4 5 6 7 8 流水線 1 I 1 IF1 ID1 FADD1 FADD2 FADD3 WR1 時鐘周期 流水線 2 I2 IF2 ID2 FMUL1 FMUL2 FMUL3 FMUL4 WR2 流水線 1 I 3 IF1 ID1 FADD1 FADD2 FADD3 WR1 流水線 2 I 4 IF2 ID2 FMUL1 FMUL2 FMUL3 FMUL4 WR2 指令 IF ：取指令， ID ：指令譯碼， FADD ：浮點加法， FMUL ：浮點乘法， WR ：寫回結(jié)果 Computer Architecture, Autumn 2023 ? 在超標量處理機中，操作部件采用流水線結(jié)構(gòu)的原因分析 假每個周期發(fā)射 m條指令，操作部件的延遲時間為 k個周期， 如果操作部件不采用流水線結(jié)構(gòu)，則使用同一個操作部件的兩條指令的序號應(yīng)該 至少相差 m k。 除了裝入和排空之外， 沒有空閑周期，功能部件得到充分利用 6條指令 總的執(zhí)行時間縮短為 8個周期 ，比順序發(fā)射順序完成方法節(jié)省 2個周期，比順序發(fā)射亂序完成方法相比節(jié)省一個周期。 除了流水線的裝入和排空部分之外， 還有 8個空閑的時鐘周期 。 超標量處理機的指令級并行度： 1＜ ILP＜ m。 目前的指令調(diào)度技術(shù)，每個周期發(fā)射 2至 4條指令比較合理。 目標是每個時鐘周期平均執(zhí)行多條指令， ILP的期望值大于 1。 目標是每個時鐘周期平均執(zhí)行一條指令， ILP的期望值為 1。 ? 緩沖深度為 4的先行讀數(shù)棧，緩沖深度為 3的后行寫數(shù)棧。 超標量處理機的 指令級并行度（ ILP）大于 1。 多操作部件處理機： 一條指令流水線 ， 多個獨立的操作部件 ， 可以采用流水線，也可以不流水。 Computer Architecture, Autumn 2023 高級流水線技術(shù) ? 超標量流水線 ? 超流水線 ? 超標量超流水線 Computer Architecture, Autumn 2023 超標量處理機 基本結(jié)構(gòu) 單發(fā)射與多發(fā)射 多流水線調(diào)度 資源沖突 超標量處理機性能 Computer Architecture, Autumn 2023 三種主流處理機： 超標量處理機： Intel公司的 i860、 i960、 Pentium處理機， Motolora公司的 MC88110， IBM公司的 Power 6000， SUN公司的 SPARC、 SuperSPARC、 UltraSPARC等。 實現(xiàn)最優(yōu)調(diào)度的目標是使 “瓶頸”流水段處于忙碌狀態(tài)，沒有空閑周期。 S3行 的第 2個“ ”從周期 5延遲到周期 6。 對于上面的例子：最小平均啟動距離為 2。預約表中 “ ”最多的行一定是 瓶頸流水段 采用 預留算法 來調(diào)度非線性流水線，可以達到最優(yōu)調(diào)度： (1)確定最小平均啟動距離（ MAL）。 (2)小于或等于狀態(tài)圖中任意一個簡單循環(huán)的平均啟動距離。 簡單循環(huán)的個數(shù)是有限的 ,由簡單循環(huán)計算平均啟動距離。 時 間 功能段 1 2 3 4 5 6 7 S 1 X X S 2 X X S 3 X X S 4 X Computer Architecture, Autumn 2023 初始沖突向量右移 1位之后： 010101∨ 101010＝ 111111， 初始沖突向量右移 3位之后： 000101∨ 101010＝ 101111， 初始沖突向量右移 5位之后： 000001∨ 101010＝ 101011， 初始沖突向量右移 7位或大于 7位后：還原到它本身。 (2) 畫出調(diào)度流水線的狀態(tài)圖。 ? 由沖突向量構(gòu)造狀態(tài)圖： 把沖突向量送入一個 m位邏輯右移移位器；如果移位器移出 0，用移位器中的值與 初始沖突向量 作 “ 按位或 ” 運算，得到一個新的沖突向量；否則不作任何處理；如此重復 m次。 非線性流水線的表示 線性流水線能夠用流水線連接圖唯一表示 ? 連接圖不能用唯一表示非線性流水線的工作流程，因此，引入流水線預約表 時間功能段1 2 3 4 5 6 7S 1 S 2 S 3 S 4 Computer Architecture, Autumn 2023 輸出輸入S 1 S 2 S 3 S 4前饋線 反饋線 與流水線預約表對應(yīng)的流水線連接圖 Computer Architecture, Autumn 2023 時間功能段1 2 3 4 5 6 7S 1 S 2 S 3 S 4 輸出S 4輸入 S 1 S 2 S 3前饋線反饋線 輸出輸入S 1 S 2 S 3 S 4前饋線 反饋線 一張預約表可能與多個流水線連接圖相對應(yīng) Computer Architecture, Autumn 2023 時間功能段1 2 3 4 5 6 7S 1 S 2 S 3 S 4 輸出輸入S 1 S 2 S 3 S 4前饋線 反饋線 一個流水線連接圖對應(yīng)與多張預約表 時間功能段1 2 3 4 5 6 7S 1 S 2 S 3 S 4 Computer Architecture, Autumn 2023 非線性流水線的沖突 流水線的啟動距離： 連續(xù)輸入兩個任務(wù)之間的時間間隔 流水線的沖突：幾個任務(wù)爭用同一個流水段 啟動距離為 3 的流水線沖突情況時間功能段1 2 3 4 5 6 7 8 9 10 11 ?S 1 X 1 X 1 X 2 X 1 X 2 X 3 X 2 X 3 X 4 ?S 2 X 1 X 1 X 2 X 2 X 3 X 3 X 4 ?S 3 X 1 X 2 X 1 X 3 X 2 X 4 ?S 4 X 1 X 2 X 3 ?啟動距離為 2 的流水線沖突情況時間功能段1 2 3 4 5 6 7 8 9 10 11 ?S 1 X 1 X 2 X 1 X 3 X 2 X 1 X 4 X 3 X 2 X 5 X 4 X 3 X 6 ?S 2 X 1 X 2 X 1 X 3 X 2 X 4 X 3 X 5 X 4 ?S 3 X 1 X 2 X 1 X 3 X 2 X 4 X 3 X 5 ?S 4 X 1 X 2 X 3 X 4 X 5 ?Computer Architecture, Autumn 2023 啟動距離為 5 時的流水線不沖突時間功能段1 2 3 4 5 6 7 8 9 10 11 ?S 1 X 1 X 1 X 2 X 1 X 2 X 3 ?S 2