并行計(jì)算機(jī)體系結(jié)構(gòu)(文件)
【正文】 行機(jī)存儲(chǔ)模塊n 內(nèi)存模塊與結(jié)點(diǎn)分離 結(jié)點(diǎn)0 結(jié)點(diǎn)PRouterHUBCacheCacheCPU1CPU0CPU1CPU0CacheCache 。n 非均勻訪存模型（NUMA：Nonuniform Memory Access）：內(nèi)存模塊局部在各個(gè)結(jié)點(diǎn)內(nèi)部（），所有局部?jī)?nèi)存模塊構(gòu)成并行機(jī)的全局內(nèi)存模塊。 l 多級(jí)存儲(chǔ)結(jié)構(gòu)： 500MHz PentiumIII Cluster CPU 容量(B) 帶寬(MB/s) 延遲(ns)chip 寄存器 256 6000 2 一級(jí)Cache 處理機(jī) 32K 4000 6 二級(jí)Cache 512K 2000 80 本地局部?jī)?nèi)存 500M 1200 320遠(yuǎn)程內(nèi)存（MPI消息傳遞） 海量 100 100,000l 訪存延遲比例：216。 Origin 2000 ： 1000次l 通信與CPU計(jì)算速度不匹配： 并行機(jī)分類l 參考資料：n 文獻(xiàn)1：P21P25；n 文獻(xiàn)6：第1章；n 文獻(xiàn)11；l 指令與數(shù)據(jù)流分類：n 單指令多數(shù)據(jù)流（SIMD）：按同一條指令，并行機(jī)的各個(gè)不同的功能部件同時(shí)對(duì)不同的數(shù)據(jù)進(jìn)行不同的處理，例如：傳統(tǒng)的向量機(jī)、80年代初期的陣列機(jī)CM2，目前已經(jīng)退出歷史舞臺(tái)；n 多指令多數(shù)據(jù)流（MIMD）：不同的處理器可同時(shí)對(duì)不同的數(shù)據(jù)執(zhí)行不同的指令，目前所有并行機(jī)均屬于這一類；n 多指令單數(shù)據(jù)流（MISD）：至今沒(méi)出現(xiàn)l 當(dāng)前流行的高性能并行機(jī)體系結(jié)構(gòu)分類：（五類）n 對(duì)稱多處理共享存儲(chǔ)并行機(jī)（SMP：Symmetric MultiProcessing）；n 分布共享存儲(chǔ)并行機(jī)（DSM：Distributed Shared Memory）；n 大規(guī)模并行機(jī)（MPP：Massively Parallel Processors）；n 工作站（微機(jī)）機(jī)群（COW：Cluster Of Workstation、Beowulf PCCluster）；n 并行向量多處理機(jī)（PVP：Parallel Vector Processors）l 對(duì)稱多處理共享存儲(chǔ)并行機(jī)（SMP）： 微處理器 微處理器 微處理器CPUCPUCPU …………CacheCacheCache系統(tǒng)總線或交叉開(kāi)關(guān)內(nèi)存模塊I/O模塊內(nèi)存模塊內(nèi)存模塊 ……… SMP體系結(jié)構(gòu)示意圖 SMP具有如下特征：u 對(duì)稱共享存儲(chǔ)：系統(tǒng)中任何處理器均可直接訪問(wèn)任何存儲(chǔ)模塊中的存儲(chǔ)單元和I/O模塊聯(lián)接的I/O設(shè)備，且訪問(wèn)的延遲、帶寬和訪問(wèn)成功的概率是一致的。u 單一的操作系統(tǒng)映像：全系統(tǒng)只有一個(gè)操作系統(tǒng)駐留在共享存儲(chǔ)器中，它根據(jù)各個(gè)處理器的負(fù)載情況，動(dòng)態(tài)地分配各個(gè)進(jìn)程到各個(gè)處理器，并保持各處理器間的負(fù)載平衡。u 支持消息傳遞、共享存儲(chǔ)并行程序設(shè)計(jì)。 l 分布共享存儲(chǔ)并行機(jī)（DSM）： 結(jié)點(diǎn)0 結(jié)點(diǎn)PRouterHUBCacheCacheCPU1CPU0CPU1CPU0CacheCache 。u 非一致內(nèi)存訪問(wèn)（NUMA）模式：由于遠(yuǎn)端訪問(wèn)必須通過(guò)高性能互聯(lián)網(wǎng)絡(luò)，而本地訪問(wèn)只需直接訪問(wèn)局部?jī)?nèi)存模塊，因此，遠(yuǎn)端訪問(wèn)的延遲一般是本地訪問(wèn)延遲的3倍以上。u 低通信延遲與高通信帶寬：專用的高性能互聯(lián)網(wǎng)絡(luò)使得結(jié)點(diǎn)間的延遲很小，通信帶寬可以擴(kuò)展。但是，由于受Cache一致性要求和互聯(lián)網(wǎng)絡(luò)性能的限制，當(dāng)結(jié)點(diǎn)數(shù)目進(jìn)一步增加時(shí)，DSM并行機(jī)的性能也將大幅下降。n 典型代表：當(dāng)前位于TOP 500前列（參考第7章并行機(jī)性能測(cè)試）的并行機(jī)均屬于這一類，其中包括IBM ASCI White（8192個(gè)處理器）、Intel ASCI Red（9632個(gè)處理器）、IBM ASCI Blue Pacific（5808個(gè)處理器）、SGI ASCI Blue Mountain（6144個(gè)處理器）、IBM SP POWER3（1336個(gè)處理器）、CRAY T3E1200（1084個(gè)處理器）等。u MPP的各個(gè)結(jié)點(diǎn)均擁有不同的操作系統(tǒng)映像。一般情形下，各個(gè)結(jié)點(diǎn)只能直接訪問(wèn)自身的局部?jī)?nèi)存模塊，如果要求直接訪問(wèn)其他結(jié)點(diǎn)的局部?jī)?nèi)存模塊，則必須有操作系統(tǒng)的特殊軟件支持。 l 微機(jī)機(jī)群（Beowulf PCCluster）：隨著商用微處理器性能的飛速發(fā)展，低延遲、高帶寬商用網(wǎng)絡(luò)交換機(jī)的出現(xiàn)，和LINUX操作系統(tǒng)等自由軟件的成熟，并行計(jì)算機(jī)不再是一個(gè)只有大型科研單位才能擁有的設(shè)備。特別地，在2000年底的Top 500排名中，美國(guó)Sandi國(guó)家重點(diǎn)實(shí)驗(yàn)室自行研制的機(jī)群Cplant排名第84位。但是，如
黨政相關(guān)相關(guān)推薦
鄂ICP備17016276號(hào)-1