【正文】 計(jì)算機(jī)體系結(jié)構(gòu) 第 3章 流水線技術(shù) 流水線的基本概念 DLX的基本流水線 流水線的相關(guān) 異常處理 DLX中多周期操作的處理 MIPS R4000流水線 計(jì)算機(jī)體系結(jié)構(gòu) 復(fù)習(xí) :性能評(píng)測(cè) ?平均 CPI? ? 每類指令的 CPIstate diagram gives CPI for each instruction type ? 每類指令的使用頻度 Type CPIi for type Frequency CPIi x freqIi Arith/Logic 4 40% Load 5 30% Store 4 10% branch 3 20% Average CPI: 計(jì)算機(jī)體系結(jié)構(gòu) 是否可以使 CPI ? Ideal Memory WrAdr Din RAdr 32 32 32 Dout MemWr 32 ALU 32 32 ALUOp ALU Control 32 IRWr Instruction Reg 32 Reg File Ra Rw busW Rb 5 5 32 busA 32 busB RegWr Rs Rt Mux 0 1 Rt Rd PCWr ALUSelA Mux 0 1 RegDst Mux 0 1 32 PC MemtoReg Extend ExtOp Mux 0 1 32 0 1 2 3 4 16 Imm 32 2 ALUSelB Mux 1 0 32 Zero Zero PCWrCond PCSrc 32 IorD Mem Data Reg ALU Out B A ?在一條指令執(zhí)行過(guò)程中下圖有許多空閑部件 ? 可以讓指令重疊執(zhí)行？ ?? 計(jì)算機(jī)體系結(jié)構(gòu) The Big Picture: Where are We Now? ?The Five Classic Components of a Computer ?Next Topics: ? Pipelining by Analogy ? Pipeline hazards Control Datapath Memory Processor Input Output 計(jì)算機(jī)體系結(jié)構(gòu) ?洗衣為例 ?Ann, Brian, Cathy, Dave 每人進(jìn)行洗衣的動(dòng)作： wash, dry, and fold ?washer需要 30 minutes ?Dryer 需要 40 minutes ?“Folder” 需要 20 minutes A B C D 流水線的基本概念 計(jì)算機(jī)體系結(jié)構(gòu) Sequential Laundry ?順序完成這些任務(wù)需要 6 hours for 4 loads ?如果采用流水作業(yè) , 需要多長(zhǎng)時(shí)間 ? A B C D 30 40 20 30 40 20 30 40 20 30 40 20 6 PM 7 8 9 10 11 Midnight T a s k O r d e r Time 計(jì)算機(jī)體系結(jié)構(gòu) 流水線作業(yè) : 原則盡可能早地讓工作開(kāi)始 ?流水作業(yè)完成四人的洗衣任務(wù)只需要 hours A B C D 6 PM 7 8 9 10 11 Midnight T a s k O r d e r Time 30 40 40 40 40 20 計(jì)算機(jī)體系結(jié)構(gòu) 流水線技術(shù)要點(diǎn) ?流水線技術(shù)并不能提高單個(gè)任務(wù)的執(zhí)行效率，它可以提高整個(gè)系統(tǒng)的吞吐率 ?流水線中的瓶頸是最慢的那一段 ?多個(gè)任務(wù)同時(shí)執(zhí)行，但使用不同的資源 ?其潛在的加速比＝流水線的級(jí)數(shù) ?流水端所需時(shí)間不均衡將降低加速比 ?流水線存在裝入時(shí)間和排空時(shí)間，使得加速比降低 ?由于存在相關(guān)問(wèn)題，會(huì)導(dǎo)致流水線停頓 計(jì)算機(jī)體系結(jié)構(gòu) 計(jì)算機(jī)的流水線 ? CPU執(zhí)行大量的指令，指令吞吐率非常重要 ? DLX 特征 ? 所有指令相同長(zhǎng)度 ? 在指令格式中寄存器位于同一位置 ? 只有 Loads和 Stores可以對(duì)存儲(chǔ)器操作 DLX的基本流水線 計(jì)算機(jī)體系結(jié)構(gòu) DLX數(shù)據(jù)通路（圖 page 83） 一種簡(jiǎn)單實(shí)現(xiàn) Memory Access Write Back Instruction Fetch Instr. Decode Reg. Fetch Execute Addr. Calc L M D ALU MUX Memory Reg File MUX MUX Data Memory MUX Sign Extend 4 Adder Zero? Next SEQ PC Address Next PC WB Data Inst RD RS1 RS2 Imm 計(jì)算機(jī)體系結(jié)構(gòu) 基本操作 (Step 1 amp。 2) ?Step 1 IF ? IR Mem[PC] fetch the next instruction from memory ? NPC PC + 4 pute the new PC ?Step 2 ID instruction decode and register fetch step ? A Regs[IR6..10] ? B Regs[IR11..16] ? 可能讀取的寄存器值沒(méi)有用，但沒(méi)有關(guān)系，譯碼后如果無(wú)用，以后操作就不用 ? Imm ? ((IR16)16 IR1631 計(jì)算機(jī)體系結(jié)構(gòu) 基本操作－ Step 3, 執(zhí)行階段 根據(jù)譯碼的結(jié)果，有四種情況 ? Memory Reference ? ALUOutput A + (IR16)16 IR16..31 effective address ? SMD B data to be written if it is a STORE SMD (store mem data) = MDR ? Register Register ALU instruction ? ALUOutput A op B ? Register Immediate ALU instruction ? ALUOutput A op ((IR16)16 IR16..31)) ? Branch/Jump ? ALUOutput NPC + (IR16)16 IR16..31 ? cond A op 0 for conditional branches A’s value is the condition base (= for BEQZ) ? 在簡(jiǎn)單的 LoadStore機(jī)器中，不存在即需要計(jì)算存存儲(chǔ)器地址，指令地址，又要進(jìn)行 ALU運(yùn)算的指令，因此可以將計(jì)算有效地址與執(zhí)行合二為一，在一個(gè)周期內(nèi) 計(jì)算機(jī)體系結(jié)構(gòu) Step 4 amp。 Step5 Step 4 MEM memory access/branch pletion ? memory reference ? LMD Mem[ALUOutput] if it’s a load。 LMD (load memory data) = MDR 或 ? Mem[ALUOutput] SMD ? branch ? if (cond) then PC ALUOutput else PC NPC ? for Jumps the condition is always true Step 5 WB write back ? Reg Reg ALU ? Regs[IR16..20] ALUOutput ? Reg Immed ALU ? Regs[IR11..15] ALUOutput ? Load ? Regs[IR11..15] LMD 計(jì)算機(jī)體系結(jié)構(gòu) 這種結(jié)構(gòu)是否可行 ?模型是正確的，但沒(méi)有優(yōu)化 ?還有其他選擇 ?兩個(gè) ALU可以合二為一 ?指令和數(shù)據(jù)存儲(chǔ)器不一定要分開(kāi) ?一個(gè)長(zhǎng)周期和 5個(gè)短周期 計(jì)算機(jī)體系結(jié)構(gòu) 單周期和多周期控制 ?多周期控制可實(shí)現(xiàn)指令重疊執(zhí)行 計(jì)算機(jī)體系結(jié)構(gòu) DLX的基本流水線 ?假設(shè)流水線周期為每步所花費(fèi)的時(shí)間 計(jì)算機(jī)體系結(jié)構(gòu) 為什么用流水線 ? ?假設(shè)執(zhí)行 100條指令 ?單周期機(jī)器 ? 45 ns/cycle x 1 CPI x 100 inst = 4500 ns ?多周期機(jī)器 ? 10 ns/cycle x CPI (due to inst mix)