【正文】 了 . 2 MPI中的消息信封 國家高性能計(jì)算中心（合肥） 考慮如下由 10個(gè)進(jìn)程執(zhí)行的代碼 : 例 8 MPI中的新通信子 2 MPI中的消息信封 MPI_Comm MyWorld, SplitWorld。MyWorld) 將創(chuàng)建一個(gè)新的通信子 MyWorld, 它是包含與原始的 MPI_COMM_WORLD相同的 10個(gè)進(jìn)程的進(jìn)程組 ,但有不同的上下文 . 表 分裂一個(gè)通信子 M y W o r l d R an k i n My W orld 0 1 2 3 4 5 6 7 8 9 C olor 0 1 2 0 1 2 0 1 2 0 Key 0 0 0 1 1 1 2 2 2 3 R an k i n Sp li tW orld (C olor=0 ) 0 1 2 3 R an k i n Sp li tW orld (C olor=1 ) 0 1 2 R an k i n Sp li tW orld (C olor=2 ) 0 1 2 2 MPI中的消息信封 國家高性能計(jì)算中心（合肥） MPI1被設(shè)計(jì)成使不同通信子中的通信是相互分開的 , 以及任何群集通信是與任何點(diǎn)對(duì)點(diǎn)通信分開的 , 即使它們是在相同的通信子內(nèi) . 通信子概念尤其方便了并行庫的開發(fā) . MPI1只支持組內(nèi)通信 (intramunication) MPI2支持組間通信 (intermunication) 2 MPI中的消息信封 國家高性能計(jì)算中心（合肥） MPI消息特性的總結(jié) 發(fā)送者進(jìn)程總結(jié)如下 例子 : MPI_Send(amp。 Xin=Xbuf0。 printf(“Y is %d”, Y)。 MPI_Issend(amp。 MPI_Isend(PreviousY, ...)。 Key=my_rank/3。 parallel_fft(...)。EvenElements)。 j = sizeof(MPI_DOUBLE)。N,1,MPI_INT,0,i,MPI_COMM_WORLD,amp。i++) { MPI_Recv(amp。 MPI_Comm_size(MPI_COMM_WORLD, amp。 例 消息傳遞中的發(fā)送和接收緩沖 M 稱為發(fā)送消息緩沖 (send message buffer, or send buffer) S 稱為接收消息緩沖 (receive message buffer, or receive buffer) 2 消息傳遞方式 國家高性能計(jì)算中心（合肥） 三種通信模式的比較 通信事件 同步通信 阻塞的通信 非阻塞的通信 發(fā)送開始的條件 雙方都到達(dá)了發(fā)送和接收點(diǎn) 發(fā)送方到達(dá)發(fā)送點(diǎn) 發(fā)送方到達(dá)發(fā)送點(diǎn) 發(fā)送返回意味著 消息已被收到 消息已被發(fā)送完 通知完系統(tǒng)某個(gè)消息要被發(fā)送 接收開始的條件 雙方都到達(dá)了發(fā)送和接收點(diǎn) 接收方到達(dá)發(fā)送點(diǎn) 接收方到達(dá)發(fā)送點(diǎn) 接收返回意味著 消息已被收到 消息已被收到 通知完系統(tǒng)某個(gè)消息要被接收 語義 明確 二者之間 需做錯(cuò)誤探測 是否需要系統(tǒng)提供臨時(shí)的消息緩沖區(qū) 不需要 需要 需要 狀態(tài)檢查 不需要 不需要 需要 等待的時(shí)間開銷 最高 二者之間 最低 通信與計(jì)算 、 通信與通信的重迭 不重迭 重迭 重迭 X 11 11 1 1, 21, 99 2 消息傳遞方式 國家高性能計(jì)算中心（合肥） Process P: M=10。 Process Q: L1: S= 100。 MPI_Init(amp。i=i+group_size) sum=sum+tmp。 } MPI_Finalize()。 MPI_Pack_size (50,MPI_DOUBLE,m,amp。Ev e nEl e m e nt s) 這個(gè) 新類型必須在被發(fā)送例程使用前交付使用 . M P I _S e nd (A ,1 ,Ev e nEl e m e nt s, dest i nati o n, .. .) 注意 : E v e nEl e m e nt s 的一個(gè)元素包含 A 的所有 50 個(gè)偶序數(shù)元素 . 因此 , M P I _S e nd 的 c o un t 域值為 1. double A[100]。 } 未使用標(biāo)簽 使用了標(biāo)簽 國家高性能計(jì)算中心（合肥） 通信子 (municator): 一個(gè)進(jìn)程組 (process group)+上下文 (context). 進(jìn)程組 : 是進(jìn)程的有限有序集 . 有限意味著 , 在一個(gè)進(jìn)程組中 , 進(jìn)程的個(gè)數(shù) n是有限的 , 這里的 n稱為進(jìn)程組的大小 (group size). 有序意味著 n 個(gè)進(jìn)程是按整數(shù) 0, 1, ..., n1進(jìn)行編號(hào)的 . 一個(gè)進(jìn)程在一個(gè)通信子 (組 )中用它的編號(hào)進(jìn)行標(biāo)識(shí) . 組的大小和進(jìn)程編號(hào)可以通過調(diào)用以下的 MPI例程獲得 : MPI_Comm_size(municator, amp。 MPI_Comm_size(MyWorld,amp。 case tag_1: perform service type1。 /* 重迭計(jì)算 */ MPI_Wait(recv_handle,recv_status)。 /* base of slice */ int group_size,my_rank。 Y=Ybuf0。tmp, 1, MPI_INT, i, i, MPI_COMM_WORLD,amp。argc, amp。 Process Q: double B[32]。 國家高性能計(jì)算中心（合肥） 在下面的消息中 , 假定每個(gè)雙精度數(shù)有 8字節(jié)長 , 一個(gè)字符是 1字節(jié) , 一個(gè)整型數(shù)是 4字節(jié) . 序號(hào) 要發(fā)送的消息 消息的性質(zhì)與定義方法( 1 ) 由數(shù)組 A 的所有元素組成的消息 . A 有 100 個(gè)元素 , 每個(gè)元素是一個(gè)雙精度數(shù) .這個(gè)消息由 100 項(xiàng)組成 , 每項(xiàng)有一個(gè) d o u b l e 數(shù)據(jù)類型 , 決定了每一項(xiàng)的大小是 8 字節(jié) . 第 i 項(xiàng)的起始地址是 A +8 ( i 1 ) .( 2 ) 由數(shù)組 A 的第 3 和第 4 項(xiàng)組成消息 .這個(gè)消息由兩項(xiàng) A [ 2 ] 和 A [ 3 ] 組成 . 每項(xiàng)是一個(gè) d o u b l e 數(shù)據(jù)類型 , 第一項(xiàng)始于 A +1 6 , 第二項(xiàng)始于 A +2 4 .這兩個(gè)消息有兩個(gè)性質(zhì) :? 數(shù)據(jù)項(xiàng)的存放是連續(xù)的 。 Ev e nEl e m e nt s) 。status)。 for (i=1。 do some putation which does not use S。國家高性能計(jì)算中心（合肥） 第十四章 分布存儲(chǔ)系統(tǒng)并行編程 國家高性能計(jì)算中心（合肥） 分布存儲(chǔ)系統(tǒng)并行編程 ? 基于消息傳遞的編程 ? MPI并行編程 ? PVM并行編程 ? 基于數(shù)據(jù)并行的并行編程 ? HPF并行編程 國家高性能計(jì)算中心（合肥） 基于消息傳遞的并行編程 1 消息傳遞庫 2 消息傳遞方式 國家高性能計(jì)算中心（合肥） 1 消息傳遞庫 (MessagePassing Libraries) 表 1 . 1 一些最流行的消息傳遞軟件的例子N a m e O r i g i n a l C r e a t o r D i s t i n c t F e a t u r e sC MM D T h i n k i n g Ma c h i n e s U s e A c t i v e M e s s a g e s f o r l o w l a t e n c yE x p r e s s P a r a s o f t C o l l e c t i v e c o m m u n i c a t i o n a n d I / OF o r t r a n M A r g o n n e N a t i o n a l L a b Mo d u l a r i t y a n d D e t e r m i n a c yM P I MP I F o r u m A w i d e l y a d o p t e d s t a n d a r dNX I n t e l O r i g i n a t e d f r o m t h e I n t e l h y p e r c u b e M P P sP4 A r g o n n e N a t i o n a l L a b I n t e g r a t e s h a r e d m e m o r y a n d m e s s a g e p a s s i n gP A R M A C S A N L / G MD Ma i n l y u s e d i n E u r o p ePVM O a k R i d g e N a t i o n a l L a b A w i d e l y u s e d , s t a n d a l o n e s y s t e mU N I F Y Mi s s i s s i p p i S t a t e A s y s t e m a l l o w i n g b o t h M P I a n d P V M c a l l sZ i p c o d e L i v e m o r e N a t i o n a l L a b C o n t r i b u t e d t o t h e c o n t e x t c o n c e p t建議 : 一個(gè)終端用戶在開發(fā)新的消息傳遞應(yīng)用時(shí)使用 MPI或 PVM. 原因是 : ? MPI和 PVM都是 公用軟件 , 易于得到 ? 多數(shù)廠家支持 國家高性能計(jì)算中心（合肥） ?CMMD: 是一個(gè)用于 Thinking Machines CM5系統(tǒng)的消息傳遞庫 , 其特點(diǎn)是基于主動(dòng)消息 (Active Message)機(jī)制在用戶空間實(shí)現(xiàn)通信以減少通信延遲 。 receive S from P。N)。N,1,MPI_INT,i,i,MPI_COMM_WORLD,amp。 MPI _T y pe _co m m i t ( amp。 MPI_Send(TempBuffer,Position,MPI_PACKED,destination,tag,m)。 send(A,32,Q,tag)。 MPI_Init(amp。 ?第一個(gè)參數(shù)指明消息緩存的起始地址 , 即存放要發(fā)送的數(shù)據(jù)信息 . ?第二個(gè)參數(shù)指明消息中給定的數(shù)據(jù)類型有多少項(xiàng) , 這個(gè)數(shù)據(jù)類型由第三個(gè)參數(shù)給定 . ?數(shù)據(jù)類型要么是基本數(shù)據(jù)類型 , 要么是導(dǎo)出數(shù)據(jù)類型 , 后者由用戶生成指定一個(gè)可能是由混合數(shù)據(jù)類型組成的非連續(xù)數(shù)據(jù)項(xiàng) . ?第四個(gè)參數(shù)是目的進(jìn)程的標(biāo)識(shí)符 (進(jìn)程編號(hào) ) ?第五個(gè)是消息標(biāo)簽 ?第六個(gè)參數(shù)標(biāo)識(shí)進(jìn)程組和上下文 , 即 , 通信子 . 通常 , 消息只在同組的進(jìn)程間傳送 . 但是 , MPI允許通過 intermunicators在組間通信 . MPI_Send(buffer, count, datatype, destination, tag, municator) 國家高性能計(jì)算中心（合肥） 發(fā)送者進(jìn)程總結(jié)如下 例 : MPI_Recv(amp。} else {X=Xbuf0。 /* slice counter */ double sum, /* running sum */ pi, /* approximate value of pi */ mypi, x, /* independent var. */ h。 MPI_Wait(send_handle,send_status)。 case tag_2: perform service type2。group_size)。group_size) MPI_Comm_rank(municator, amp。 MPI_Data_type EvenElements。BufferSize)。 } 例 一個(gè)計(jì)算 ∑foo(i)的 MPI SPMD消息傳遞程序 , 存放在文件 “ ”中 初始化 MPI環(huán)境 得到缺省的進(jìn)程組大小 得到每個(gè)進(jìn)程在組中的編號(hào) 發(fā)送消息 接收消息 終止 MPI環(huán)境 國家高性能計(jì)算中心（合肥） 這個(gè)程序用以下并行 C編譯器 mpcc來編譯 : 執(zhí)行下列命令將可執(zhí)行程序 myprog加載到 n個(gè)節(jié)點(diǎn)上 : mpcc –o myprog MPIRUN myprog –np n MPI進(jìn)程