【正文】 編程工具，它具有可移植性好、功能強大、效率高等許多優(yōu)點，而且有許多不同的免費、高效、實用的實現(xiàn)版本。最后則是“位置透明”，用戶不必了解真正提供服務(wù)的物理設(shè)備的具體位置。其次是“單一控制”，邏輯上，最終用戶或系統(tǒng)用戶使用的服務(wù)都來自機群中唯一一個位置。包含四重含義。從用戶的角度來看，機群就是一個單一、集中的計算資源。第9章 機群PVP并行向量處理機SMP對稱多處理機MPP大規(guī)模并行處理機機群機群是一種價格低廉、易于構(gòu)建、可擴放性極強的并行計算機系統(tǒng)。同時多線程技術(shù)簡稱SMT。通常以時間片輪轉(zhuǎn)的方法實現(xiàn)這樣的交替執(zhí)行，在輪轉(zhuǎn)的過程中跳過當(dāng)時處于停頓的線程。柵欄的典型實現(xiàn)是用兩個旋轉(zhuǎn)鎖：一個用來記錄到達柵欄的進程數(shù)，另一個用來封鎖進程直至最后一個進程到達柵欄。柵欄同步并行循環(huán)程序中一個常用的同步操作。原子交換將一個存儲單元的值和一個寄存器的值進行交換，且交換是不可分的。寫更新協(xié)議當(dāng)一個處理器寫某數(shù)據(jù)項時，通過廣播使其他Cache中所有對應(yīng)的該數(shù)據(jù)項副本進行更新。這些Cache通常連在共享存儲器的總線上，各個Cache控制器通過監(jiān)聽總線來判斷它們是否有總線上請求的數(shù)據(jù)塊。監(jiān)聽法當(dāng)物理存儲器中的數(shù)據(jù)塊被調(diào)入Cache時，其共享狀態(tài)信息與該數(shù)據(jù)塊一起放在該Cache中。寫順序化寫操作順序化，使得對同一存儲器單元所進行的寫操作順序在所有處理器看來都是相同的。復(fù)制不僅降低了訪存的延遲，也減少了訪問共享數(shù)據(jù)所產(chǎn)生的沖突。共享數(shù)據(jù)的遷移把遠程的共享數(shù)據(jù)項副本放在本處理器局部的Cache中使用，從而降低了對遠程共享數(shù)據(jù)的訪問延遲。私有數(shù)據(jù)供一個單獨的處理器使用的數(shù)據(jù)。消息傳遞機器多個地址空間的機器。共享存儲器機器共享地址空間的機器。傳輸時間全部的消息量除以線路帶寬。系統(tǒng)中每個結(jié)點包含了處理器、存儲器、I／O以及互連網(wǎng)絡(luò)接口。又稱為對稱式共享存儲器結(jié)構(gòu)機器或者UMA機器。第8章 多處理機集中式共享存儲器結(jié)構(gòu)由幾個到幾十個處理器構(gòu)成的MIMD機器。交叉開關(guān)網(wǎng)絡(luò)每個輸入端通過一個交叉點開關(guān)無阻塞地與一個空閑輸出端相連。超立方體一種二元n立方體結(jié)構(gòu)。這就是說，如果｜ji｜=2 r，r=0,1,2,…,n1，網(wǎng)絡(luò)規(guī)模N=2n，則結(jié)點i與結(jié)點j連接。其中任何兩個結(jié)點之間都有鏈路相連。增加的鏈路愈多，結(jié)點度愈高，網(wǎng)絡(luò)直徑就愈小。雙向環(huán)的直徑為N/2，單向環(huán)的直徑是N。可以單向工作，也可以雙向工作。內(nèi)部結(jié)點度為2，端結(jié)點度為1，直徑為N1，等分寬度b=1。對稱網(wǎng)絡(luò)對于一個網(wǎng)絡(luò)，如果從其中的任何一個結(jié)點看，拓撲結(jié)構(gòu)都是一樣的，則稱此網(wǎng)絡(luò)為對稱網(wǎng)絡(luò)。等分寬度在將某一網(wǎng)絡(luò)切成相等兩半的各種切法中，沿切口的最小通道邊數(shù)。距離對于網(wǎng)絡(luò)中的任意兩個結(jié)點，從一個結(jié)點出發(fā)到另一個結(jié)點終止所需要跨越的邊數(shù)的最小值。入度在單向通道的情況下，進入結(jié)點的通道數(shù)。其結(jié)點數(shù)稱為網(wǎng)絡(luò)規(guī)模。網(wǎng)絡(luò)規(guī)模一般說來，網(wǎng)絡(luò)用圖來表示。其互連函數(shù)為PM2I函數(shù)一種移數(shù)函數(shù)，它是將各輸入端都循環(huán)移動一定的位置連到輸出端。蝶式互連函數(shù)把輸入端的二進制編號的最高位與最低位互換位置，便得到了輸出端的編號。逆均勻洗牌函數(shù)將輸入端的二進制編號循環(huán)右移一位而得到所連接的輸出端編號。其表達式為均勻洗牌函數(shù)將輸入端分成數(shù)目相等的兩半，前一半和后一半按類似均勻混洗撲克牌的方式交叉地連接到輸出端（輸出端相當(dāng)于混洗的結(jié)果）。它表示f(x0)=x1，f(x1)=x2，…，f(xj1)=x0j稱為該循環(huán)的長度。也稱為置換函數(shù)或排列函數(shù)。互連函數(shù)用變量x表示輸入（設(shè)x=0，1，…，N－1），用函數(shù)f(x)表示輸出，通過數(shù)學(xué)表達式建立輸入端與輸出端的一一對應(yīng)關(guān)系。靜態(tài)拓撲結(jié)構(gòu)在各結(jié)點之間有專用的連接通路，且在運行過程中不能改變。集中控制方式集中控制方式中，有一個全局的控制器接收所有的通信請求，并由它設(shè)置互連網(wǎng)絡(luò)的開關(guān)連接。這些數(shù)據(jù)包可以通過不同的路徑傳送，到目的結(jié)點后再拼合出原來的數(shù)據(jù)。線路交換源結(jié)點和目的結(jié)點之間的物理通路在整個數(shù)據(jù)傳送期間一直保持連接。第7章 互連網(wǎng)絡(luò)互連網(wǎng)絡(luò)一種由開關(guān)元件按照一定的拓撲結(jié)構(gòu)和控制方式構(gòu)成的網(wǎng)絡(luò)，用來實現(xiàn)計算機系統(tǒng)中結(jié)點之間的相互連接。異步I/O允許進程在發(fā)出I/O請求后繼續(xù)執(zhí)行，直到該進程需要使用請求的數(shù)據(jù)。通道最大流量一個通道在滿負荷工作狀態(tài)下的流量。在傳送數(shù)據(jù)期間，該通道只能為一臺高速外圍設(shè)備服務(wù)，但在不同的時間內(nèi)可以選擇不同的設(shè)備。依次循環(huán)工作。數(shù)組多路通道適于為高速設(shè)備服務(wù)。當(dāng)多臺設(shè)備同時連接到一個字節(jié)多路通道上時，通道每連接一個外圍設(shè)備，只傳送一個字節(jié)，然后又與另一臺設(shè)備連接，并傳送一個字節(jié)。通道處理機能夠執(zhí)行有限I/O指令，并且能夠被多臺外圍設(shè)備共享的小型DMA專用處理機。又稱為流水總線、懸掛總線或者包交換總線。分離事務(wù)總線將總線事務(wù)分成請求和應(yīng)答兩部分。即數(shù)據(jù)以塊（塊大小可變）交叉的方式存于各盤，冗余的檢、糾錯信息均勻地分布在所有磁盤上。即數(shù)據(jù)以塊交叉的方式存于各盤，但無專用的冗余盤，而是把冗余的奇偶校驗信息均勻地分布在所有磁盤上。數(shù)據(jù)以塊（塊大小可變）交叉的方式存于各盤，冗余的奇偶校驗信息存放在一個專用盤上。缺點是一次只能執(zhí)行一個I/O請求。數(shù)據(jù)以位或字節(jié)交叉的方式存于各盤，冗余的奇偶校驗信息存儲在專用的冗余盤上。數(shù)據(jù)字以位交叉方式分別記錄在各個磁盤上，編碼位被存放在多個校驗（Ecc）磁盤的對應(yīng)位上。如果一個磁盤失效，系統(tǒng)可以到鏡像盤中獲得所需要的數(shù)據(jù)。RAID1鏡像盤。RAID廉價磁盤冗余陣列或獨立磁盤冗余陣列。有效構(gòu)建方法在構(gòu)建系統(tǒng)的過程中消除故障隱患，這樣建立起來的系統(tǒng)就不會出現(xiàn)故障。系統(tǒng)可用性系統(tǒng)正常工作時間在連續(xù)兩次正常服務(wù)間隔時間中所占的比率。通常用平均無故障時間MTTF（Mean Time To Failure）來衡量。第6章 輸入/輸出系統(tǒng)輸入/輸出系統(tǒng)簡稱I/O系統(tǒng)，它包括I/O設(shè)備以及I/O設(shè)備與處理機的連接。DRAM專用交叉結(jié)構(gòu)Nibble方式、Page方式、Static column方式。獨立存儲體將存儲器分為若干個獨立的存儲體，每個體有獨立的地址線、獨立的數(shù)據(jù)總線，有多個存儲控制器，以允許多個體獨立操作。多體交叉存儲器把存儲芯片組織為多個體，讓它們并行工作，從而能一次讀或?qū)懚鄠€字。多字寬存儲器結(jié)構(gòu)這是提高存儲器帶寬的最簡單的方法。在完成地址變換之后，再把得到的物理地址與標(biāo)識進行比較。虛擬索引＋物理標(biāo)識方法直接用虛地址中的頁內(nèi)位移作為訪問Cache的索引，但標(biāo)識卻是物理地址。進程標(biāo)識符字段（PID）虛擬Cache中，為了減少清空Cache的次數(shù)，在地址標(biāo)識中增加一個進程標(biāo)識符字段，指出Cache中各塊的數(shù)據(jù)是屬于哪個程序的。局部失效率對于某一級Cache來說：局部失效率＝該級Cache的失效次數(shù)/到達該級Cache的訪存次數(shù)全局失效率對于某一級Cache來說：全局失效率＝該級Cache的失效次數(shù)/CPU發(fā)出的訪存總次數(shù)虛擬Cache訪問Cache的索引和標(biāo)識都是虛擬地址的一部分。請求字一旦到達，就立刻送往CPU，讓CPU繼續(xù)執(zhí)行，同時從存儲器調(diào)入該塊的其余部分。一旦請求字到達，就立即發(fā)送給CPU，讓等待的CPU盡早重啟動，繼續(xù)執(zhí)行。請求字當(dāng)從存儲器向CPU調(diào)入一塊時，塊中只有一個字是CPU立即需要的，這個字稱為請求字。為每一個子塊賦一位有效位，用于說明該子塊中的數(shù)據(jù)是否有效。非阻塞Cache或非鎖定CacheCache在等待預(yù)取數(shù)據(jù)返回的同時，還能繼續(xù)提供指令和數(shù)據(jù)。故障性預(yù)取在預(yù)取時，若出現(xiàn)虛地址故障或違反保護權(quán)限，則會發(fā)生異常。寄存器預(yù)取預(yù)取時，把數(shù)據(jù)取到寄存器中。如果這一塊的標(biāo)識匹配，則稱發(fā)生了“偽命中”。采用這種方法時，在命中情況下，訪問Cache的過程和直接映像Cache中的情況相同；而發(fā)生失效時，在訪問下一級存儲器之前，會先檢查Cache另一個位置（塊），看是否匹配。Victim Cache在Cache與下一級存儲器的數(shù)據(jù)通路之間增設(shè)一個全相聯(lián)的小Cache，用來存放由于失效而被丟棄（替換）的那些塊。這就發(fā)生了沖突失效。這種失效稱為容量失效。強制性失效當(dāng)?shù)谝淮卧L問一個塊時，該塊不在Cache中，需從下一級存儲器中調(diào)入Cache，這就是強制性失效。分離Cache將單一的Cache分為兩個Cache：一個專門存放指令，另一個專門存放數(shù)據(jù)。按寫分配法寫失效時，先把所寫單元所在的塊調(diào)入Cache，然后再進行寫入。寫回法在執(zhí)行“寫”操作時，只把信息寫入Cache中相應(yīng)的塊。最近最少使用法(LRU)選擇近期最少被訪問的塊作為被替換的塊。隨機法隨機地選擇被替換的塊。目錄表目錄表所包含的項數(shù)與Cache的塊數(shù)相同，每一項對應(yīng)于Cache中的一個塊，用于指出當(dāng)前該塊中存放的信息是哪個主存塊的。n路組相聯(lián)在組相聯(lián)映像中，如果每組中有n個塊，則稱該映像規(guī)則為n路組相聯(lián)。直接映像當(dāng)把一個塊從主存調(diào)入Cache時，它只能被放置到Cache中唯一的一個位置。它們依靠輔助軟硬件的作用，構(gòu)成一個整體?！爸鞔妫o存”層次“主存—輔存”層次的目的是為了彌補主存容量的不足。平均訪問時間TATA＝ 命中時間 ＋ 失效率 失效開銷“Cache－主存”層次在CPU和主存之間增加一級速度快、但容量較小而每位價格較貴的高速緩沖存儲器。不命中率或失效率FCPU在第一級存儲器中找不到所需數(shù)據(jù)的概率。其目標(biāo)是速度接近于離CPU最近的存儲器的速度，容量達到離CPU最遠的存儲器的容量。多級存儲層次由若干個采用不同實現(xiàn)技術(shù)的存儲器構(gòu)成的存儲器系統(tǒng)。這個過程既可以通過編譯器靜態(tài)完成，也可以通過硬件動態(tài)進行。循環(huán)展開技術(shù)開發(fā)循環(huán)級并行的一種基本技術(shù)。在每個時鐘周期流出的指令條數(shù)是固定的，這些指令構(gòu)成一條長指令或者一個指令包，在這個指令包中，指令之間的并行性是通過指令顯式地表示出來的。設(shè)這個上限為n，就稱該處理機為n流出。超標(biāo)量處理機一種多流出處理機。在指令操作完成后到指令被確認的這一時間段內(nèi)，為指令保存數(shù)據(jù)。等到相應(yīng)的指令得到“確認”（即確實是應(yīng)該執(zhí)行的）后，才將結(jié)果寫入寄存器或存儲器。前瞻執(zhí)行對分支指令的結(jié)果進行猜測，并假設(shè)這個猜測總是對的，然后按這個猜測結(jié)果繼續(xù)取、流出和執(zhí)行后續(xù)的指令。用專門的硬件實現(xiàn)的一張表格。分支歷史表BHT記錄分支指令最近一次或幾次的執(zhí)行情況（成功或不成功），并據(jù)此進行預(yù)測。如果分支行為發(fā)生了變化，預(yù)測結(jié)果也跟著改變。它是一條重要的數(shù)據(jù)通路，所有功能部件的計算結(jié)果都要送到CDB上，由它把這些結(jié)果直接送到（播送到）各個需要該結(jié)果的地方。保留站設(shè)置在運算部件的入口，每個保留站中保存一條已經(jīng)流出并等待到本功能部件執(zhí)行的指令（相關(guān)信息），包括操作碼、操作數(shù)以及用于檢測和解決沖突的信息。精確異常當(dāng)執(zhí)行指令i導(dǎo)致發(fā)生異常時，處理機的現(xiàn)場跟嚴格按程序順序執(zhí)行時指令i的現(xiàn)場相同。動態(tài)調(diào)度方法在流水線中出現(xiàn)相關(guān)時，通過硬件重新安排指令的執(zhí)行順序，來調(diào)整相關(guān)指令實際執(zhí)行時的關(guān)系，減少處理器空轉(zhuǎn)。它不是在程序執(zhí)行的過程中、而是在編譯期間進行代碼調(diào)度和優(yōu)化。即原來程序中是怎么發(fā)生的，改變執(zhí)行順序后還是怎么發(fā)生。程序順序由源程序確定的在完全串行方式下指令的執(zhí)行順序?；境绦驂K如果一串連續(xù)的代碼除了入口和出口以外，沒有其他的分支指令和轉(zhuǎn)入點，則稱之為一個基本程序塊。第4章 指令級并行指令級并行當(dāng)指令之間不存在相關(guān)時，它們可以在流水線中重疊起來并行執(zhí)行。半性能向量長度向量處理機的運行性能達到其峰值性能的一半時所必須滿足的向量長度。向量處理機的峰值性能R165。鏈接流水線的流水時間在鏈接流水線中，從第一個操作數(shù)開始流動到第一個結(jié)果產(chǎn)生并存入向量寄存器所需的時間。功能部件沖突向量功能部件沖突指的是同一個向量功能部件被一條以上的并行工作向量指令所使用。寄存器－寄存器型操作的運算流水線可設(shè)長度為n的向量寄存器，使每組向量運算的源/目向量都在向量寄存器中，流水線的運算部件輸入、輸出端與向量寄存器相聯(lián)，構(gòu)成RR型運算流水線。存儲器－存儲器型操作的運算流水線向量運算指令的源/目向量都放在存儲器內(nèi)，使得流水線運算部件的輸入、輸出端直接與存儲器相聯(lián)，構(gòu)成MM型的運算流水線。若使用流水線，在每次循環(huán)中可能出現(xiàn)數(shù)據(jù)相關(guān)和功能轉(zhuǎn)換，不適合對向量進行流水處理。水平(橫向)處理方式在橫向處理方式中，向量計算是按行的方式從左到右橫向地進行。設(shè)延遲長度為n的分支指令后面有n個分支延遲槽，選擇n條有效和有用的指令放入分支延遲槽中，無論分支成功與否，流水線都會執(zhí)行這些指令。預(yù)測分支成功的方法一旦流水線譯碼到一條指令是分支指令，且完成了分支目標(biāo)地址的計算，我們就假設(shè)分支轉(zhuǎn)移成功，并開始在分支目標(biāo)地址處取指令執(zhí)行。預(yù)測分支失敗的方法當(dāng)流水線譯碼到一條分支指令時，流水線繼續(xù)取指令，并允許該分支指令后的指令繼續(xù)在流水線中流動。凍結(jié)或排空流水線在流水線中，處理分支最簡單的方法，保持或清除流水線在分支指令之后讀入的任何指令，直到知道分支指令的目標(biāo)地址以及分支轉(zhuǎn)移是否成功為止。讀后寫沖突（WAR）考慮流水線中的兩條指令i 和j，且i在j之前進入流水線中，j可能在i讀取某個源寄存器的內(nèi)容之前就先對該寄存器進行寫操作，導(dǎo)致i后來