并行計算機體系結(jié)構(gòu)(編輯修改稿)
2025-10-22 19:14 本頁面
【文章內(nèi)容簡介】 500MHz PentiumIII Cluster CPU 容量(B) 帶寬(MB/s) 延遲(ns)chip 寄存器 256 6000 2 一級Cache 處理機 32K 4000 6 二級Cache 512K 2000 80 本地局部內(nèi)存 500M 1200 320遠程內(nèi)存（MPI消息傳遞） 海量 100 100,000l 訪存延遲比例：216。 微機機群 1 : 3 : 40 : 160 : 50,000 216。 Origin 2000 1 : 3 : 30 : 50: 500 l 一次消息傳遞延遲相當于峰值浮點運算的次數(shù)：216。 微機機群 ： 50,000 次216。 Origin 2000 ： 1000次l 通信與CPU計算速度不匹配： 并行機分類l 參考資料：n 文獻1：P21P25；n 文獻6：第1章；n 文獻11；l 指令與數(shù)據(jù)流分類：n 單指令多數(shù)據(jù)流（SIMD）：按同一條指令，并行機的各個不同的功能部件同時對不同的數(shù)據(jù)進行不同的處理，例如：傳統(tǒng)的向量機、80年代初期的陣列機CM2，目前已經(jīng)退出歷史舞臺；n 多指令多數(shù)據(jù)流（MIMD）：不同的處理器可同時對不同的數(shù)據(jù)執(zhí)行不同的指令，目前所有并行機均屬于這一類；n 多指令單數(shù)據(jù)流（MISD）：至今沒出現(xiàn)l 當前流行的高性能并行機體系結(jié)構(gòu)分類：（五類）n 對稱多處理共享存儲并行機（SMP：Symmetric MultiProcessing）；n 分布共享存儲并行機（DSM：Distributed Shared Memory）；n 大規(guī)模并行機（MPP：Massively Parallel Processors）；n 工作站（微機）機群（COW：Cluster Of Workstation、Beowulf PCCluster）；n 并行向量多處理機（PVP：Parallel Vector Processors）l 對稱多處理共享存儲并行機（SMP）： 微處理器 微處理器 微處理器CPUCPUCPU …………CacheCacheCache系統(tǒng)總線或交叉開關(guān)內(nèi)存模塊I/O模塊內(nèi)存模塊內(nèi)存模塊 ……… SMP體系結(jié)構(gòu)示意圖 SMP具有如下特征：u 對稱共享存儲：系統(tǒng)中任何處理器均可直接訪問任何存儲模塊中的存儲單元和I/O模塊聯(lián)接的I/O設(shè)備，且訪問的延遲、帶寬和訪問成功的概率是一致的。所有內(nèi)存地址單元統(tǒng)一編址。各個處理器之間的地位等價，不存在任何特權(quán)處理器。操作系統(tǒng)可在任意處理器上運行。u 單一的操作系統(tǒng)映像：全系統(tǒng)只有一個操作系統(tǒng)駐留在共享存儲器中，它根據(jù)各個處理器的負載情況，動態(tài)地分配各個進程到各個處理器，并保持各處理器間的負載平衡。u 局部高速緩存Cache及其數(shù)據(jù)一致性：每個處理器均配備局部Cache，它們可以擁有獨立的局部數(shù)據(jù)，但是這些數(shù)據(jù)必須保持與存儲器中數(shù)據(jù)是一致的。u 低通信延遲：各個進程通過讀/寫操作系統(tǒng)提供的共享數(shù)據(jù)緩存區(qū)來完成處理器間的通信，其延遲通常小于網(wǎng)絡(luò)通信的延遲。u 共享總線帶寬：所有處理器共享總線的帶寬，完成對內(nèi)存模塊和I/O模塊的訪問。u 支持消息傳遞、共享存儲并行程序設(shè)計。SMP具有如下缺點：u 欠可靠：總線、存儲器或操作系統(tǒng)失效可導致系統(tǒng)崩潰。u 可擴展性（scalability）較差：由于所有處理器共享總線帶寬，而總線帶寬每3年才增加2倍，跟不上處理器速度和內(nèi)存容量的增加步伐，因此，SMP并行機的處理器個數(shù)一般少于32個，且只能提供每秒數(shù)百億次的浮點運算性能。 SMP典型代表：u SGI POWER Challenge XL系列并行機（36個MIPS R1000微處理器）；u COMPAQ Alphaserver 84005/440 （12個Alpha 21264個微處理器）；u HP9000/T600 （12個HP PA9000微處理器）；u IBM RS6000/R40（8個RS6000微處理器）。 l 分布共享存儲并行機（DSM）： 結(jié)點0 結(jié)點PRouterHUBCacheCacheCPU1CPU0CPU1CPU0CacheCache 。。 MPM0HUBRouter互 聯(lián) 網(wǎng) 絡(luò) DSM體系結(jié)構(gòu)示意圖DSM較好地改善了SMP并行機的可擴展能力，具有如下特征：u 并行機以結(jié)點為單位，每個結(jié)點包含一個或多個CPU，每個CPU擁有自己的局部Cache，并共享局部存儲器和I/O設(shè)備，所有結(jié)點通過高性能互聯(lián)網(wǎng)絡(luò)相互聯(lián)接；u 物理上分布存儲：內(nèi)存模塊局部在各結(jié)點中，并通過高性能互聯(lián)網(wǎng)絡(luò)相互聯(lián)接，避免了SMP訪
黨政相關(guān)相關(guān)推薦
鄂ICP備17016276號-1