并行計算機體系結構(文件)
【正文】 行機存儲模塊n 內(nèi)存模塊與結點分離 結點0 結點PRouterHUBCacheCacheCPU1CPU0CPU1CPU0CacheCache 。n 非均勻訪存模型（NUMA：Nonuniform Memory Access）：內(nèi)存模塊局部在各個結點內(nèi)部（），所有局部內(nèi)存模塊構成并行機的全局內(nèi)存模塊。 l 多級存儲結構： 500MHz PentiumIII Cluster CPU 容量(B) 帶寬(MB/s) 延遲(ns)chip 寄存器 256 6000 2 一級Cache 處理機 32K 4000 6 二級Cache 512K 2000 80 本地局部內(nèi)存 500M 1200 320遠程內(nèi)存（MPI消息傳遞） 海量 100 100,000l 訪存延遲比例：216。 Origin 2000 ： 1000次l 通信與CPU計算速度不匹配： 并行機分類l 參考資料：n 文獻1：P21P25；n 文獻6：第1章；n 文獻11；l 指令與數(shù)據(jù)流分類：n 單指令多數(shù)據(jù)流（SIMD）：按同一條指令，并行機的各個不同的功能部件同時對不同的數(shù)據(jù)進行不同的處理，例如：傳統(tǒng)的向量機、80年代初期的陣列機CM2，目前已經(jīng)退出歷史舞臺；n 多指令多數(shù)據(jù)流（MIMD）：不同的處理器可同時對不同的數(shù)據(jù)執(zhí)行不同的指令，目前所有并行機均屬于這一類；n 多指令單數(shù)據(jù)流（MISD）：至今沒出現(xiàn)l 當前流行的高性能并行機體系結構分類：（五類）n 對稱多處理共享存儲并行機（SMP：Symmetric MultiProcessing）；n 分布共享存儲并行機（DSM：Distributed Shared Memory）；n 大規(guī)模并行機（MPP：Massively Parallel Processors）；n 工作站（微機）機群（COW：Cluster Of Workstation、Beowulf PCCluster）；n 并行向量多處理機（PVP：Parallel Vector Processors）l 對稱多處理共享存儲并行機（SMP）： 微處理器 微處理器 微處理器CPUCPUCPU …………CacheCacheCache系統(tǒng)總線或交叉開關內(nèi)存模塊I/O模塊內(nèi)存模塊內(nèi)存模塊 ……… SMP體系結構示意圖 SMP具有如下特征：u 對稱共享存儲：系統(tǒng)中任何處理器均可直接訪問任何存儲模塊中的存儲單元和I/O模塊聯(lián)接的I/O設備，且訪問的延遲、帶寬和訪問成功的概率是一致的。u 單一的操作系統(tǒng)映像：全系統(tǒng)只有一個操作系統(tǒng)駐留在共享存儲器中，它根據(jù)各個處理器的負載情況，動態(tài)地分配各個進程到各個處理器，并保持各處理器間的負載平衡。u 支持消息傳遞、共享存儲并行程序設計。 l 分布共享存儲并行機（DSM）： 結點0 結點PRouterHUBCacheCacheCPU1CPU0CPU1CPU0CacheCache 。u 非一致內(nèi)存訪問（NUMA）模式：由于遠端訪問必須通過高性能互聯(lián)網(wǎng)絡，而本地訪問只需直接訪問局部內(nèi)存模塊，因此，遠端訪問的延遲一般是本地訪問延遲的3倍以上。u 低通信延遲與高通信帶寬：專用的高性能互聯(lián)網(wǎng)絡使得結點間的延遲很小，通信帶寬可以擴展。但是，由于受Cache一致性要求和互聯(lián)網(wǎng)絡性能的限制，當結點數(shù)目進一步增加時，DSM并行機的性能也將大幅下降。n 典型代表：當前位于TOP 500前列（參考第7章并行機性能測試）的并行機均屬于這一類，其中包括IBM ASCI White（8192個處理器）、Intel ASCI Red（9632個處理器）、IBM ASCI Blue Pacific（5808個處理器）、SGI ASCI Blue Mountain（6144個處理器）、IBM SP POWER3（1336個處理器）、CRAY T3E1200（1084個處理器）等。u MPP的各個結點均擁有不同的操作系統(tǒng)映像。一般情形下，各個結點只能直接訪問自身的局部內(nèi)存模塊，如果要求直接訪問其他結點的局部內(nèi)存模塊，則必須有操作系統(tǒng)的特殊軟件支持。 l 微機機群（Beowulf PCCluster）：隨著商用微處理器性能的飛速發(fā)展，低延遲、高帶寬商用網(wǎng)絡交換機的出現(xiàn)，和LINUX操作系統(tǒng)等自由軟件的成熟，并行計算機不再是一個只有大型科研單位才能擁有的設備。特別地，在2000年底的Top 500排名中，美國Sandi國家重點實驗室自行研制的機群Cplant排名第84位。但是，如
黨政相關相關推薦
鄂ICP備17016276號-1