【正文】 計(jì)算機(jī)體系結(jié)構(gòu) 計(jì)算機(jī)系統(tǒng)結(jié)構(gòu)北京理工大學(xué)計(jì)算機(jī)學(xué)院 吞吐率： 最大吞吐率為： 各段執(zhí)行時(shí)間不相等、輸入連續(xù)任務(wù)情況下： 吞吐率為： 最大吞吐率為： tnknTP???? )1(　　　　　 nTP L i m nk n t t? ?? ? ? ?m a x ( )11? ?),m a x ()1( 211kkii tttntnTP???????????),m a x(121 ktttTP ???????第 5章 計(jì)算機(jī)體系結(jié)構(gòu) 計(jì)算機(jī)系統(tǒng)結(jié)構(gòu)北京理工大學(xué)計(jì)算機(jī)學(xué)院 一是將“瓶頸”流水段細(xì)分 (如果可分的話 )： 二是將 “瓶頸”流水段重復(fù)設(shè)置： S1 輸入 輸出 ?t S21 ?t S22 ?t S23 ?t S3 ?t S4 ?t S2(3?t) S1 輸入 輸出 ?t1=?t S21 S21 S21 S3 S4 ?t3=?t ?t4=?t ?t2=3?t 第 5章 計(jì)算機(jī)體系結(jié)構(gòu) 計(jì)算機(jī)系統(tǒng)結(jié)構(gòu)北京理工大學(xué)計(jì)算機(jī)學(xué)院 加速比（ Speedup） 計(jì)算流水線加速比的基本公式： S = 順序執(zhí)行時(shí)間 T0 / 流水線執(zhí)行時(shí)間 Tk 各段執(zhí)行時(shí)間相等，輸入連續(xù)任務(wù)情況下 加速比為： 最大加速比為： 1)1( ???????????nknktnktnkSS L im k nk n knm a x ? ?? ? ?? ?　　　　 1第 5章 計(jì)算機(jī)體系結(jié)構(gòu) 計(jì)算機(jī)系統(tǒng)結(jié)構(gòu)北京理工大學(xué)計(jì)算機(jī)學(xué)院 效率（ Efficiency） 計(jì)算流水線效率的一般公式： 各流水段執(zhí)行時(shí)間相等，輸入 n個(gè)連續(xù)任務(wù) 流水線的效率為： 流水線的最高效率為： kTkTknE???0個(gè)流水段的總的時(shí)空區(qū)個(gè)任務(wù)占用的時(shí)空區(qū)1)1( ????????????nkntnkktnkE11m a x ???? ?? nk nL imE n　　　　第 5章 計(jì)算機(jī)體系結(jié)構(gòu) 計(jì)算機(jī)系統(tǒng)結(jié)構(gòu)北京理工大學(xué)計(jì)算機(jī)學(xué)院 流水線的吞吐率、加速比與效率的關(guān)系： 因?yàn)? 因此： E=TP ?t ， S=kE tnknTP???? )1( 1????nknkS1??? nknE第 5章 計(jì)算機(jī)體系結(jié)構(gòu) 計(jì)算機(jī)系統(tǒng)結(jié)構(gòu)北京理工大學(xué)計(jì)算機(jī)學(xué)院 非線性流水線的調(diào)度技術(shù) 線性流水線能夠用流水線連接圖唯一表示。 連接圖不能唯一表示非線性流水線的工作流程，因此，引入流水線預(yù)約表。 第 5章 輸出 輸入 S 1 S 2 S 3 S 4 前饋線 反饋線 計(jì)算機(jī)體系結(jié)構(gòu) 計(jì)算機(jī)系統(tǒng)結(jié)構(gòu)北京理工大學(xué)計(jì)算機(jī)學(xué)院 構(gòu)造狀態(tài)圖：把沖突向量送入一個(gè) m位邏輯右移移位器；如果移位器移出 0，用移位器中的值與初始沖突向量作“按位或”運(yùn)算，得到一個(gè)新的沖突向量；否則不作任何處理；如此重復(fù) m次。 對(duì)于中間形成的每一個(gè)新的沖突向量，也要按照這一方法進(jìn)行處理。 在初始沖突向量和所有的新形成的沖突向量之間用帶箭頭的線連接，當(dāng)新形成的沖突向量出現(xiàn)重復(fù)時(shí)可以合并到一起 。 第 5章 計(jì)算機(jī)體系結(jié)構(gòu) 計(jì)算機(jī)系統(tǒng)結(jié)構(gòu)北京理工大學(xué)計(jì)算機(jī)學(xué)院 向量的流水處理與向量流水處理機(jī) 向量的流水處理 例如 ， 要計(jì)算 D=A*(B+C)， 其中 ， A、 B、 C、 D都是具有 N個(gè)元素的向量 ， 應(yīng)該采用什么樣的處理方式才能最充分發(fā)揮流水線的效能呢 ? 。 第 5章 計(jì)算機(jī)體系結(jié)構(gòu) 計(jì)算機(jī)系統(tǒng)結(jié)構(gòu)北京理工大學(xué)計(jì)算機(jī)學(xué)院 第 5章 向量處理方式 1．橫向處理方式 ， 又稱為水平處理方式，橫向加工方式等。向量計(jì)算是按行的方式從左至右橫向地進(jìn)行。 2．縱向處理方式 ， 又稱為垂直處理方式，縱向加工方式等。向量計(jì)算是按列的方式自上而下縱向地進(jìn)行。 3．縱橫處理方式 ， 又稱為分組處理方 式，縱橫向加工方式等。橫向處理和縱向處理相結(jié)合的方式。 計(jì)算機(jī)體系結(jié)構(gòu) 計(jì)算機(jī)系統(tǒng)結(jié)構(gòu)北京理工大學(xué)計(jì)算機(jī)學(xué)院 指令級(jí)高度并行的超級(jí)處理機(jī) 超標(biāo)量處理機(jī) 基本結(jié)構(gòu) 一般流水線處理機(jī)： 一條指令流水線，一個(gè)多功能操作部件，每個(gè)時(shí)鐘周期平均執(zhí)行指令的條數(shù)小于 1。 多操作部件處理機(jī)： 一條指令流水線，多個(gè)獨(dú)立的操作部件，操作部件可以采用流水線，也可以不流水。多操作部件處理機(jī)的指令級(jí)并行度小于 1。 第 5章 計(jì)算機(jī)體系結(jié)構(gòu) 計(jì)算機(jī)系統(tǒng)結(jié)構(gòu)北京理工大學(xué)計(jì)算機(jī)學(xué)院 單發(fā)射與多發(fā)射 單發(fā)射處理機(jī) ： 每個(gè)周期只取一條指令、只譯碼一條指令，只執(zhí)行一條指令，只寫回一個(gè)運(yùn)算結(jié)果。 取指部件和譯碼部件各設(shè)置一套。 可以只設(shè)置一個(gè)多功能操作部件，也可以設(shè)置多個(gè)獨(dú)立的操作部件。 操作部件中可以采用流水線結(jié)構(gòu)，也可以不采用流水線結(jié)構(gòu)。 設(shè)計(jì)目標(biāo)是每個(gè)時(shí)鐘周期平均執(zhí)行一條指令， ILP的期望值 1。 第 5章 計(jì)算機(jī)體系結(jié)構(gòu) 計(jì)算機(jī)系統(tǒng)結(jié)構(gòu)北京理工大學(xué)計(jì)算機(jī)學(xué)院 多發(fā)射處理機(jī) ： 每個(gè)周期同時(shí)取多條指令、同時(shí)譯碼多條指令，同時(shí)執(zhí)行多條指令，同時(shí)寫回多個(gè)運(yùn)算結(jié)果。 需要多個(gè)取指令部件，多個(gè)指令譯碼部件和多個(gè)寫結(jié)果部件。 設(shè)置多個(gè)指令執(zhí)行部件，復(fù)雜的指令執(zhí)行部件一般采用流水線結(jié)構(gòu)。 設(shè)計(jì)目標(biāo)是每個(gè)時(shí)鐘周期平均執(zhí)行多條指令， ILP的期望值大于 1。 第 5章 計(jì)算機(jī)體系結(jié)構(gòu) 計(jì)算機(jī)系統(tǒng)結(jié)構(gòu)北京理工大學(xué)計(jì)算機(jī)學(xué)院 IF 時(shí)鐘 周期 指令 I1 I2 I3 ID EX WR 1 2 3 4 5 6 多發(fā)射處理機(jī)的指令流水線時(shí)空?qǐng)D I4 I5 I6 IF ID EX WR I7 I8 I9 IF ID EX WR IF ID EX WR IF ID EX WR IF ID EX WR IF ID EX WR IF ID EX WR IF ID EX WR 第 5章 計(jì)算機(jī)體系結(jié)構(gòu) 計(jì)算機(jī)系統(tǒng)結(jié)構(gòu)北京理工大學(xué)計(jì)算機(jī)學(xué)院 超標(biāo)量處理機(jī) ： 一個(gè)時(shí)鐘周期內(nèi)能夠同時(shí)發(fā)射多條指令的處理機(jī)稱為超標(biāo)量處理機(jī)。 必須有兩條或兩條以上能夠同時(shí)工作的指令流水線。 第 5章 計(jì)算機(jī)體系結(jié)構(gòu) 計(jì)算機(jī)系統(tǒng)結(jié)構(gòu)北京理工大學(xué)計(jì)算機(jī)學(xué)院 超標(biāo)量 處理機(jī)性能 指令級(jí)并行度為 (1,n)的 超標(biāo)量 處理機(jī)，執(zhí)行 N條指令所的時(shí)間為： 超標(biāo)量 處理機(jī)相對(duì)于單流水線普通標(biāo)量處理機(jī)的加速比為： t)mk()1,m(T mN ??? ?t)m mNk(t)1Nk()1,m(T)1,1(T)1,m(S????????第 5章 計(jì)算機(jī)體系結(jié)構(gòu) 計(jì)算機(jī)系統(tǒng)結(jié)構(gòu)北京理工大學(xué)計(jì)算機(jī)學(xué)院 即： 超流水線處理機(jī)的加速比的最大值為：S(m,1)MAX = m mNmk)1Nk(m)1,m(S?????第 5章 計(jì)算機(jī)體系結(jié)構(gòu) 計(jì)算機(jī)系統(tǒng)結(jié)構(gòu)北京理工大學(xué)計(jì)算機(jī)學(xué)院 超流水線處理機(jī) 兩種定義： 一個(gè)周期內(nèi)能夠分時(shí)發(fā)射多條指令的處理機(jī)稱為超流水線處理機(jī)。 指令流水線有 8個(gè)或更多功能段的流水線處理機(jī)稱為超流水線處理機(jī)。 提高處理機(jī)性能的不同方法： 超標(biāo)量處理機(jī)是通過增加硬件資源為代價(jià)來換取處理機(jī)性能的。 超流水線處理機(jī)則通過各硬件部件充分重疊工作來提高處理機(jī)性能。 第 5章 計(jì)算機(jī)體系結(jié)構(gòu) 計(jì)算機(jī)系統(tǒng)結(jié)構(gòu)北京理工大學(xué)計(jì)算機(jī)學(xué)院 兩種不同并行性： 超標(biāo)量處理機(jī)采用的是空間并行性（同時(shí)性）。 超流水線處理機(jī)采用的是時(shí)間并行性（并發(fā)性）。 第 5章 計(jì)算機(jī)體系結(jié)構(gòu) 計(jì)算機(jī)系統(tǒng)結(jié)構(gòu)北京理工大學(xué)計(jì)算機(jī)學(xué)院 指令執(zhí)行時(shí)序 每隔 1/n個(gè)時(shí)鐘周期發(fā)射一條指令，流水線周期為 1/n個(gè)時(shí)鐘周期。 在超標(biāo)量處理機(jī)中，流水線的有些功能段還可以進(jìn)一步細(xì)分。 第 5章 計(jì)算機(jī)體系結(jié)構(gòu) 計(jì)算機(jī)系統(tǒng)結(jié)構(gòu)北京理工大學(xué)計(jì)算機(jī)學(xué)院 IF 時(shí)鐘 周期 指令 I1 I2 I3 ID EX WR 1 2 3 4 5 6 每個(gè)時(shí)鐘周期分時(shí)發(fā)送 3條指令的超流水線 I4 I5 I6 IF ID EX WR I7 I8 I9 IF ID EX WR IF ID EX WR IF ID EX WR IF ID EX WR IF ID EX WR IF ID EX WR IF ID EX WR 第 5章 計(jì)算機(jī)體系結(jié)構(gòu) 計(jì)算機(jī)系統(tǒng)結(jié)構(gòu)北京理工大學(xué)計(jì)算機(jī)學(xué)院 超流水線處理機(jī)性能 指令級(jí)并行度為 (1,n)的超流水線處理機(jī)，執(zhí)行 N條指令所的時(shí)間為： 超流水線處理機(jī)相對(duì)于單流水線普通標(biāo)量處理機(jī)的加速比為： tnknT N ??? ? )(),( 11tnNktNknTTnS????????)1()1(),1()1,1(),(1第 5章 計(jì)算機(jī)體系結(jié)構(gòu) 計(jì)算機(jī)系統(tǒng)結(jié)構(gòu)北京理工大學(xué)計(jì)算機(jī)學(xué)院 即： 超流水線處理機(jī)的加速比的最大值為：S(1,n)MAX = n 1)1(),1(?????NnkNknnS第 5章 計(jì)算機(jī)體系結(jié)構(gòu) 計(jì)算機(jī)系統(tǒng)結(jié)構(gòu)北京理工大學(xué)計(jì)算機(jī)學(xué)院 超標(biāo)量超流水線處理機(jī) 把超標(biāo)量與超流水線技術(shù)結(jié)合在一起，就成為超標(biāo)量超流水線處理機(jī)。 指令執(zhí)行時(shí)序 超標(biāo)量超流水線處理機(jī)在一個(gè)時(shí)鐘周期內(nèi)分時(shí)發(fā)射指令 n次，每次同時(shí)發(fā)射指令 m條，每個(gè)時(shí)鐘周期總共發(fā)射指令 m ? n條。 第 5章 計(jì)算機(jī)體系結(jié)構(gòu) 計(jì)算機(jī)系統(tǒng)結(jié)構(gòu)北京理工大學(xué)計(jì)算機(jī)學(xué)院 IF 時(shí)鐘周期 指令 I1 I2 I3 ID EX WR 1 2 3 4 5 I4 I5 I6 I7 I8 I9 IF ID EX WR IF ID EX WR IF ID EX WR IF ID EX WR IF ID EX WR IF ID EX WR IF ID EX WR IF ID EX WR IF ID EX WR IF ID EX WR IF ID EX WR I10 I11 I12 每時(shí)鐘周期發(fā)射 3次 ,每次 3條指令 第 5章 計(jì)算機(jī)體系結(jié)構(gòu) 計(jì)算機(jī)系統(tǒng)結(jié)構(gòu)北京理工大學(xué)計(jì)算機(jī)學(xué)院 超標(biāo)量超流水線處理機(jī)性能 指令級(jí)并行度為 (m,n)的超標(biāo)量超流水線處理機(jī)，連續(xù)執(zhí)行 N條指令所需要的時(shí)間為： 超標(biāo)量超流水線處理機(jī)相對(duì)于單流水線標(biāo)量處理機(jī)的加速比為： T m n k N mm n t( , ) ( )? ? ?? ?tmnmNktNknmSSnmS????????)()1(),()1,1(),(第 5章 計(jì)算機(jī)體系結(jié)構(gòu) 計(jì)算機(jī)系統(tǒng)結(jié)構(gòu)北京理工大學(xué)計(jì)算機(jī)學(xué)院 在理想情況下，超標(biāo)量超流水線處理機(jī)加速比的最大值為： S(m, n)MAX＝ m n mNknmNknmnmS????????? )1(),(第 5章 計(jì)算機(jī)體系結(jié)構(gòu) 計(jì)算機(jī)系統(tǒng)結(jié)構(gòu)北京理工大學(xué)計(jì)算機(jī)學(xué)院 第 6章 并行處理機(jī)定義： 多個(gè) PU按照一定方式互連，在同一個(gè) CU控制下，對(duì)各自的數(shù)據(jù)完成同一條指令規(guī)定的操作。 從 CU看，指令是串行執(zhí)行的，從 PU看，數(shù)據(jù)是并行處理的。 并行處理機(jī)也稱為陣列處理機(jī)。按照佛林分類法，它屬于 SIMD計(jì)算機(jī)。 計(jì)算機(jī)體系結(jié)構(gòu) 計(jì)算機(jī)系統(tǒng)結(jié)構(gòu)北京理工大學(xué)計(jì)算機(jī)學(xué)院 第 6章 并行處理機(jī)的 主要特點(diǎn) 如下： 速度快 ，而且潛力大。 模塊性好 ，生產(chǎn)和維護(hù)方便。 可靠性高 ，容易實(shí)現(xiàn)容錯(cuò)和重構(gòu)。 效率低 （與流水線處理機(jī)、向量處理機(jī)等比較）。通常作為專用計(jì)算機(jī)，因此，在很大程度上依賴于并行算法。它依靠的是資源重復(fù)，而不是時(shí)間重疊。 計(jì)算機(jī)體系結(jié)構(gòu) 計(jì)算機(jī)系統(tǒng)結(jié)構(gòu)北京理工大學(xué)計(jì)算機(jī)學(xué)院 第 6章 并行處理機(jī)原理 陣列處理機(jī)的基本構(gòu)形 分布式存儲(chǔ)器的陣列處理機(jī) 集