并行計算機與并行計算(編輯修改稿)
2024-11-17 09:51 本頁面
【文章內(nèi)容簡介】 er/COW, 物理 /邏輯上多地址空間 SMP MPP MPP … WAN LM DSM SM (d) Grid (Cluster of Clusters) Center of Computational Chemistry 什么是并行計算，并行進程的表述 及并行模型的分類 Center of Computational Chemistry 什么是并行計算 進程 1 發(fā)送信息 進程 2 接收信息 傳統(tǒng)的 串行計算 ， 分為 “ 指令 ” 和 “ 數(shù)據(jù) ” 兩個部分，并在程序 執(zhí)行時 “ 獨立地申請和占有 ” 內(nèi) 存空間，且所有計算均局限于 該內(nèi)存空間。 并行計算 將 進程相對獨立的 分配于不同的節(jié)點上，由 各自獨立的操作系統(tǒng)調(diào)度， 享有獨立的 CPU和內(nèi)存資源 （內(nèi)存可以共享）；進程間 相互信息交換通過消息傳遞 ； 進程 1 進程 2 Center of Computational Chemistry 并行算法的表述 在并行算法的表述中，所有描述串行算法的語句及進程均可調(diào)用， 而只是為了表達并行性而引入幾條所謂的并行語句 當幾個算法步要并行執(zhí)行時， 我們可以寫作 Do step i to j in parallel step i step i+1 … step j 或者是： 當幾個處理器同時執(zhí)行相同的操作時，我們可以寫作 for all i parallel do . . . end for Center of Computational Chemistry 例如 n=2**k個數(shù)的求和 輸入： n=2**k個數(shù)存入數(shù)組 A中 輸出： S=sigma(A(i)) begin (1) for i=1 to 4 parallel do B(i)?A(i) end for (2) for h=1 to logn=2 do for i=1 to n/2**h=1 parallel do B(i)?B(2i1) + B(2i) end for end for (3) S?B(i) end 把每一個 A(i)賦給 B(i) n=4,k=2,就是 4個數(shù)的加和 h= 1 to 2 h=1 I=1 to 2 (4/2**1) B(1)?B(1)+B(2) B(2)?B(3)+B(4) h=2 I=1 to 1 (4/2**2) B(1)?B(1)+B(2) S?B(1) 若有 2**2=4個處理器，則在 1(h)級可能的并行 運算數(shù)目為 4/2**1= 處理器 Center of Computational Chemistry 硬件結(jié)構(gòu)抽象模型 (自然模型 ) ?共享存儲 的模型和語言 (適于 PVP, SMP, DSM) X3H5, Pthread OpenMP ?消息傳遞 的模型和語言 (適于 MPP, Cluster, COW) MPI (Fortran, C, Gamess, Vasp) PVM (Fortran, C) ?數(shù)據(jù)并行 的模型和語言 (適于在 MPP/Cluster上實現(xiàn) SPMD應用 ) Fortran 90 HPF(High Performance Fortran) 并行模型的分類 Center of Computational Chemistry 基于程序構(gòu)造的模型 ?CSP ?Linda （ Fortran, C, Gaussian） ?Global (Molpro， Columbus) 基于問題描述的模型 ?GAMMA ?UNITY 基于并行計算理論的模型 ?PRAM ?BSP ?LogP Center of Computational Chemistry Yale 大學 Nicholas Carriero 和 David Gelernter 于 1986年基于分散數(shù)據(jù)結(jié)構(gòu)和共享存儲系統(tǒng)的并行計算模型 . Linda模型定義了一個功能強大的邏輯存儲器 (TS)和在其上的一組核心操作 (in, out, read, eval), 它們能夠方便地嵌入到不同的語言 (如 , C, Fortran)中而構(gòu)成相應的并行語言 (CLinda和 FortranLinda等 ) 該模型同時還支持動態(tài)程序設計和兩種不同的編程風格 (Master/Slaver和 DivideandConquer),為用戶開發(fā)不同類型 的應用程序提供了靈活的手段
教學課件相關(guān)推薦
鄂ICP備17016276號-1