【正文】 1992年， 。 一般恒定循環(huán)作為最小啟動(dòng)循環(huán)。 任一行中與第 1個(gè) “ ”的距離為 2的倍數(shù)的周期都要預(yù)留出來(lái) 。 實(shí)際上，只要在流水段 S4的輸出端到流水段 S3的輸入端中間插入一個(gè)非計(jì)算延遲 D1。 Computer Architecture, Autumn 2023 動(dòng)態(tài)調(diào)度方法 ? 一個(gè)啟動(dòng)循環(huán) C，從 C推導(dǎo)出各個(gè)起始之間所有可能的時(shí)間間隔集合 Gc，稱為啟動(dòng)間隔集合 ? C=（ 2， 3， 2， 5） ? Gc=（ 2， 3， 5， 7， 9， 10， 14， 15， 17， 19， 21，22， 24， 26。 超標(biāo)量超流水線處理機(jī)： DEC公司的 Alpha等。 超標(biāo)量處理機(jī)典型結(jié)構(gòu)： 多條指令流水線 。有 10個(gè)操作部件。 Computer Architecture, Autumn 2023 單發(fā)射與多發(fā)射 單發(fā)射處理機(jī)： 每個(gè)周期只取一條指令、只譯碼一條指令，只執(zhí)行一條指令，只寫回一個(gè)運(yùn)算結(jié)果。 需要多個(gè)取指令部件，多個(gè)指令譯碼部件和多個(gè)寫結(jié)果部件。 先行指令窗口 ：能夠從指令 Cache中預(yù)取多條指令， 能夠?qū)Υ翱趦?nèi)的指令進(jìn)行數(shù)據(jù)相關(guān)性分析和功能部件沖突檢測(cè)。 操作部件的個(gè)數(shù)一般多于每個(gè)周期發(fā)射的指令條數(shù)。 Computer Architecture, Autumn 2023 ? 有先行指令窗口的超標(biāo)量處理機(jī)的流水線結(jié)構(gòu)取指令 指令譯碼 執(zhí)行指令 寫回結(jié)果F A 1 F A 2 F A 3浮點(diǎn)加法部件指令C ach eIF 1 ID 1 M D 1 M D 2 M D 3 WR 1通用寄存器后行寫數(shù)棧乘除法部件指令C ach eIF 2 ID 2 AL WR 2通用寄存器后行寫數(shù)棧定點(diǎn)算術(shù)邏輯部件IF 3 ID 3 LS先行指令窗口 取數(shù)存數(shù)部件FA ：浮點(diǎn)加減法運(yùn)算， MD ：乘除法運(yùn)算， AL ：定點(diǎn)算術(shù)邏輯運(yùn)算， LS 取數(shù)存數(shù)Computer Architecture, Autumn 2023 多流水線調(diào)度 多條流水線的調(diào)度問(wèn)題是一個(gè) NP完全問(wèn)題， 順序發(fā)射（ inorder issue）與亂序發(fā)射（ outorder issue）： 指令發(fā)射順序是按照程序中指令排列順序進(jìn)行的稱為順序發(fā)射 順序完成 (inorder pletion)與亂序完成 (outorder pletion) 指令完成順序是按照程序中指令排列順序進(jìn)行的稱為順序完成 多流水線的調(diào)度主要有三種方法： 順序發(fā)射順序完成，順序發(fā)射亂序完成，亂序發(fā)射亂序完成。 6條指令 總的執(zhí)行時(shí)間為 9個(gè)時(shí)鐘周期 ，與順序發(fā)射順序完成調(diào)度方法相比 節(jié)省了一個(gè)時(shí)鐘周期 。 下面是一個(gè)由 4條指令程序的程序： I1： FADD R0, R1 ； R0← （ R0）＋（ R1） I2： FMUL R2, R3 ； R2← （ R2） （ R3） I3： FADD R4, R5 ； R4← （ R4）＋（ R5） I4： FMUL R6, R7 ； R6← （ R6）＋（ R7） 雙流水線超標(biāo)量處理機(jī)，操作部件不采用流水線的時(shí)空?qǐng)D1 2 3 4 5 6 7 8 9 10 11流水線 1 I 1 IF 1 ID1 F AD D WR 1 時(shí)鐘周期流水線 2 I 2 IF 2 ID2 F M UL WR 2流水線 1 I3IF 1 ID1 F AD D WR 1流水線 2 I4IF 2 ID2 F M UL WR 2 指令I(lǐng)F ：取指令， ID ：指令譯碼， FADD ：浮點(diǎn)加法， FMUL ：浮點(diǎn)乘法， WR ：寫回結(jié)果Computer Architecture, Autumn 2023 操作部件不采用流水線： 做完 4條指令總共用了 11個(gè)周期，有 5個(gè)空閑周期。 ? 指令流水線的段數(shù) k一般在 4至 10之間，每個(gè)時(shí)鐘周期發(fā)射的指令條數(shù) m在2至 4之間。 ? 超標(biāo)量處理機(jī)則正好相反，希望相同操作不要連續(xù)出現(xiàn)。 ? 在理想情況下， N條指令在單流水線標(biāo)量處理機(jī)上的執(zhí)行時(shí)間為： T(1,1)＝（ k＋ N－ 1） ?t ? 在每個(gè)周期發(fā)射 m條指令的超標(biāo)量處理機(jī)上執(zhí)行的時(shí)間為： ? T(m,1)＝（ k＋ ） ?t ? 超標(biāo)量處理機(jī)相對(duì)于單流水線標(biāo)量處理機(jī)的加速比為： ? S(m,1)＝ ? 超標(biāo)量處理機(jī)的加速比的最大值為： S(m,1)MAX＝ m N mm?TT mm k NN m k( , )( , )( )( )1 1111?? ?? ?Computer Architecture, Autumn 2023 超流水線處理機(jī) ? 兩種定義： 在一個(gè)周期內(nèi)能夠分時(shí)發(fā)射多條指令的處理機(jī) 指令流水線的功能段數(shù)為 8段或超過(guò) 8段的流水線處理機(jī) ? 提高處理機(jī)性能的不同方法： 超標(biāo)量處理機(jī)：通過(guò)增加硬件資源來(lái)提高處理機(jī)性能 超流水線處理機(jī)：通過(guò)各部分硬件的重疊工作來(lái)提高 處理機(jī)性能。 ? 在超標(biāo)量處理機(jī)中，流水線的有些功能段還可以進(jìn)一步細(xì)分， 例如： ID功能段，可以再細(xì)分為：譯碼、讀第一操作數(shù)和讀 第二操作。 超流水線處理機(jī)采用的是時(shí)間并行性。 ? 超標(biāo)量處理機(jī)的這種要求正好符合一般標(biāo)量程序的特點(diǎn)。 ? 因此，在超標(biāo)量處理機(jī)中，操作部件一般要采用流水線結(jié)構(gòu) 如果由于某種原因，操作部件不能采用流水線結(jié)構(gòu)，則必須設(shè)置多個(gè)相同種類的操作部件 Computer Architecture, Autumn 2023 ? 普通標(biāo)量處理機(jī)，希望相同操作連續(xù)出現(xiàn)。 雙流水線超標(biāo)量處理機(jī)，操作部件采用流水線的時(shí)空?qǐng)D 1 2 3 4 5 6 7 8 流水線 1 I 1 IF1 ID1 FADD1 FADD2 FADD3 WR1 時(shí)鐘周期 流水線 2 I2 IF2 ID2 FMUL1 FMUL2 FMUL3 FMUL4 WR2 流水線 1 I 3 IF1 ID1 FADD1 FADD2 FADD3 WR1 流水線 2 I 4 IF2 ID2 FMUL1 FMUL2 FMUL3 FMUL4 WR2 指令 IF ：取指令， ID ：指令譯碼， FADD ：浮點(diǎn)加法， FMUL ：浮點(diǎn)乘法， WR ：寫回結(jié)果 Computer Architecture, Autumn 2023 ? 在超標(biāo)量處理機(jī)中，操作部件采用流水線結(jié)構(gòu)的原因分析 假每個(gè)周期發(fā)射 m條指令，操作部件的延遲時(shí)間為 k個(gè)周期， 如果操作部件不采用流水線結(jié)構(gòu)，則使用同一個(gè)操作部件的兩條指令的序號(hào)應(yīng)該 至少相差 m k。 除了裝入和排空之外， 沒(méi)有空閑周期，功能部件得到充分利用 6條指令 總的執(zhí)行時(shí)間縮短為 8個(gè)周期 ，比順序發(fā)射順序完成方法節(jié)省 2個(gè)周期，比順序發(fā)射亂序完成方法相比節(jié)省一個(gè)周期。 除了流水線的裝入和排空部分之外， 還有 8個(gè)空閑的時(shí)鐘周期 。 超標(biāo)量處理機(jī)的指令級(jí)并行度： 1＜ ILP＜ m。 目前的指令調(diào)度技術(shù)，每個(gè)周期發(fā)射 2至 4條指令比較合理。 目標(biāo)是每個(gè)時(shí)鐘周期平均執(zhí)行多條指令， ILP的期望值大于 1。 目標(biāo)是每個(gè)時(shí)鐘周期平均執(zhí)行一條指令， ILP的期望值為 1。 ? 緩沖深度為 4的先行讀數(shù)棧，緩沖深度為 3的后行寫數(shù)棧。 超標(biāo)量處理機(jī)的 指令級(jí)并行度（ ILP）大于 1。 多操作部件處理機(jī)： 一條指令流水線 ， 多個(gè)獨(dú)立的操作部件 ， 可以采用流水線，也可以不流水。 Computer Architecture, Autumn 2023 高級(jí)流水線技術(shù) ? 超標(biāo)量流水線 ? 超流水線 ? 超標(biāo)量超流水線 Computer Architecture, Autumn 2023 超標(biāo)量處理機(jī) 基本結(jié)構(gòu) 單發(fā)射與多發(fā)射 多流水線調(diào)度 資源沖突 超標(biāo)量處理機(jī)性能 Computer Architecture, Autumn 2023 三種主流處理機(jī)： 超標(biāo)量處理機(jī)： Intel公司的 i860、 i960、 Pentium處理機(jī)， Motolora公司的 MC88110， IBM公司的 Power 6000， SUN公司的 SPARC、 SuperSPARC、 UltraSPARC等。 實(shí)現(xiàn)最優(yōu)調(diào)度的目標(biāo)是使 “瓶頸”流水段處于忙碌狀態(tài)，沒(méi)有空閑周期。 S3行 的第 2個(gè)“ ”從周期 5延遲到周期 6。 對(duì)于上面的例子：最小平均啟動(dòng)距離為 2。預(yù)約表中 “ ”最多的行一定是 瓶頸流水段 采用 預(yù)留算法 來(lái)調(diào)度非線性流水線，可以達(dá)到最優(yōu)調(diào)度： (1)確定最小平均啟動(dòng)距離（ MAL）。 (2)小于或等于狀態(tài)圖中任意一個(gè)簡(jiǎn)單循環(huán)的平均啟動(dòng)距離。 簡(jiǎn)單循環(huán)的個(gè)數(shù)是有限的 ,由簡(jiǎn)單循環(huán)計(jì)算平均啟動(dòng)距離。 時(shí) 間 功能段 1 2 3 4 5 6 7 S 1 X X S 2 X X S 3 X X S 4 X Computer Architecture, Autumn 2023 初始沖突向量右移 1位之后： 010101∨ 101010＝ 111111， 初始沖突向量右移 3位之后： 000101∨ 101010＝ 101111， 初始沖突向量右移 5位之后： 000001∨ 101010＝ 101011， 初始沖突向量右移 7位或大于 7位后：還原到它本身。 (2) 畫出調(diào)度流水線的狀態(tài)圖。 ? 由沖突向量構(gòu)造狀態(tài)圖： 把沖突向量送入一個(gè) m位邏輯右移移位器；如果移位器移出 0，用移位器中的值與 初始沖突向量 作 “ 按位或 ” 運(yùn)算，得到一個(gè)新的沖突向量；否則不作任何處理；如此重復(fù) m次。 非線性流水線的表示 線性流水線能夠用流水線連接圖唯一表示 ? 連接圖不能用唯一表示非線性流水線的工作流程，因此，引入流水線預(yù)約表 時(shí)間功能段1 2 3 4 5 6 7S 1 S 2 S 3 S 4 Computer Architecture, Autumn 2023 輸出輸入S 1 S 2 S 3 S 4前饋線 反饋線 與流水線預(yù)約表對(duì)應(yīng)的流水線連接圖 Computer Architecture, Autumn 2023 時(shí)間功能段1 2 3 4 5 6 7S 1 S 2 S 3 S 4 輸出S 4輸入 S 1 S 2 S 3前饋線反饋線 輸出輸入S 1 S 2 S 3 S 4前饋線 反饋線 一張預(yù)約表可能與多個(gè)流水線連接圖相對(duì)應(yīng) Computer Architecture, Autumn 2023 時(shí)間功能段1 2 3 4 5 6 7S 1 S 2 S 3 S 4 輸出輸入S 1 S 2 S 3 S 4前饋線 反饋線 一個(gè)流水線連接圖對(duì)應(yīng)與多張預(yù)約表 時(shí)間功能段1 2 3 4 5 6 7S 1 S 2 S 3 S 4 Computer Architecture, Autumn 2023 非線性流水線的沖突 流水線的啟動(dòng)距離： 連續(xù)輸入兩個(gè)任務(wù)之間的時(shí)間間隔 流水線的沖突：幾個(gè)任務(wù)爭(zhēng)用同一個(gè)流水段 啟動(dòng)距離為 3 的流水線沖突情況時(shí)間功能段1 2 3 4 5 6 7 8 9 10 11 ?S 1 X 1 X 1 X 2 X 1 X 2 X 3 X 2 X 3 X 4 ?S 2 X 1 X 1 X 2 X 2 X 3 X 3 X 4 ?S 3 X 1 X 2 X 1 X 3 X 2 X 4 ?S 4 X 1 X 2 X 3 ?啟動(dòng)距離為 2 的流水線沖突情況時(shí)間功能段1 2 3 4 5 6 7 8 9 10 11 ?S 1 X 1 X 2 X 1 X 3 X 2 X 1 X 4 X 3 X 2 X 5 X 4 X 3 X 6 ?S 2 X 1 X 2 X 1 X 3 X 2 X 4 X 3 X 5 X 4 ?S 3 X 1 X 2 X 1 X 3 X 2 X 4 X 3 X 5 ?S 4 X 1 X 2 X 3 X 4 X 5 ?Computer Architecture, Autumn 2023 啟動(dòng)距離為 5 時(shí)的流水線不沖突時(shí)間功能段1 2 3 4 5 6 7 8 9 10 11 ?S 1 X 1 X 1 X 2 X 1 X 2 X 3 ?S 2