【正文】 fflush(stdout)。 i = n。 printf(pi ≈ %.16f, Error: %.16f\n, pi, fabs(piPI25DT))。 i 4。result, 1, MPI_INT, recvbuf, 1, MPI_INT, 2, MPI_COMM_WORLD )。 /* 將當前組中前 P/numCols個進程形成新組 */ MPI_Group_incl( globalGroup, P / numCols, ranks[rowNumber], amp。 MPI_Init( amp。 } MPI_Finalize()。numProcs)。 random = rand()。 MPI_Group globalGroup, newGroup。value, 1, MPI_INT, 2, MPI_COMM_WORLD )。 return 0。 /* 各進程計算結果加規(guī)約到進程 0的變量 pi */ MPI_Reduce(amp。n, 1, MPI_INT, 0, MPI_COMM_WORLD)。myid)。 int namelen。value )。 return 0。 } /* 各進程統(tǒng)計 3的個數 */ for ( i = 0。 length_per_process = length / numProcs。 MPI_Status status。status )。req, amp。 MPI_Request req。 if ( rank == 0 ) { MPI_Bsend( buf1, count, MPI_REAL, 1, tag1, MPI_COMM_WORLD )。 }/*ProcRecv()*/ 注意程序在多個節(jié)點上執(zhí)行時，各節(jié)點上進程的 myid值不相同 進 程 0r a n k = 0..S e n d ( )...進 程 1r a n k = 1進 程 2r a n k = 2進 程 3r a n k = 3..S e n d ( ).....S e n d ( ).....R e c v ( )...啟動 4個進程時 點到點通信 ? 發(fā)送消息需指明接收進程號 ? 接收方可從任意源接收消息，也可指定源進程 – 使用參數 MPI_ANY_SOURCE、MPI_ANY_TAG ? MPI通信函數使用 MPI_Status返回通信結果 typedef struct MPI_Status( int count, //發(fā)送 /接收的字節(jié)數 int cancelled, int MPI_SOURCE, //通信對端的進程號 int MPI_TAG, //消息 tag int MPI_ERROR )。 }/*main()*/ int ProcSend() { /* 向 0號進程發(fā)送消息 */ printf( process:%d of %d sending...\n, myid, numProcs )。numProcs )。 MPI_Status status。第三章 消息傳遞程序設計 MPI 劉 軼 北京航空航天大學 計算機學院 從程序員視角看，并行體系結構主要分為兩類： ① 共享存儲 (sharedmemory)系統(tǒng) 典型平臺： 基于多核處理器的計算機 SMP及 NUMA體系結構計算機 ② 消息傳遞 (messagepassing)系統(tǒng) 機群系統(tǒng) 本章內容 幾種主流的并行編程接口 Pthreads OpenMP MPI 編程模型 線程 共享內存 消息傳遞 面向系統(tǒng)結構 共享內存 共享內存 分布式內存或共享內存 通信模型 共享內存地址 共享內存地址 消息傳遞或共享內存地址 并行粒度 粗 或 細 細 粗 或細 同步 顯式 隱式 隱式 或 顯式 實現(xiàn)方式 程序庫 編譯器 程序庫 本章內容 MPI并行環(huán)境簡介 點到點通信 組和通信子 集合通信 MPI與多線程 MPI并行環(huán)境簡介 MPI并行環(huán)境簡介 一、簡介 ? MPIMessage Passing Interface ? 面向消息傳遞型并行系統(tǒng)的編程接口 – 主要面向機群系統(tǒng) (cluster) ? MPI之前曾廣泛使用另一種編程接口 PVM – MPI于 1994年發(fā)布，目前為 v2版 – 經過多年技術發(fā)展，已顯露出諸多不足之處，但在沒有更理想編程模型和語言的情況下， MPI仍是應用最為廣泛的消息傳遞型編程接口標準 – 不同廠商和研究機構推出了多個版本，主要有： ? MPICH √ – ? LAMMPI ? IBM MPL ? MPI支持 C/C++、 Fortran語言編程 MPI并行環(huán)境簡介 MPI的并行模式： SPMD(Single Program Multiple Data) 程 序. . .C P UM e m o r yC P UM e m o r yC P UM e m o r y互 連 網 絡數 據? 所有節(jié)點運行相同的程序 ? 不同的節(jié)點處理不同的數據 ? 每個節(jié)點運行一個或多個 MPI進程 ，進程間通過發(fā)送 /接收消息進行通信和同步 注意：多個并行進程間無法共享變量 ， 只能通過消息進行交互 MPI并行環(huán)境簡介 二、 MPI基本環(huán)境 ? MPI進程的創(chuàng)建、啟動和管理通過進程管理器 (PMProcess Manager)完成 – 進程管理器就是 MPI環(huán)境與操作系統(tǒng)的接口 ? 常用的進程管理器 MPD – MPD是 MPI環(huán)境的守護進程 (daemon)， MPI其他工具通過與MPD通信實現(xiàn)其功能 – MPD由 python實現(xiàn)的一組工具構成 ? 意味著系統(tǒng)中需安裝 python解釋器 – 由 mpdboot 完成 MPD在多個主機上的啟動，以形成 MPI運行環(huán)境 ? 啟動之前需配置各節(jié)點間的無密碼登錄 MPI并行環(huán)境簡介 二、 MPI基本環(huán)境 MPD命令 命令 說明 mpd 啟動 MPD守護進程 mpdtrace 打印 MPI運行時環(huán)境內所有 MPD守護進程的信息 mpdboot 啟動一組 MPD進程 mpdringtest 測試消息在環(huán)境環(huán)行一周的時間 mpdallexit 停止運行時環(huán)境的所有進程 mpdcleanup 運行時環(huán)境崩潰情況下，可用該命令清除本地的 Unix socket mpdlistjobs 列出作業(yè)的進程信息 mpdkilljob 停止某個作業(yè)的所有進程 mpdsigjob 對某個作業(yè)的所有進程發(fā)信號 mpiexec 啟動一個作業(yè) (早期 MPI版本使用 mpirun命令 ) MPI并行環(huán)境簡介 二、 MPI基本環(huán)境 ? MPI環(huán)境的安裝過程示例 ① 下載 MPI源代碼包并解壓縮 ② 配置 mpi ③ 編譯并安裝 ④ (確認 )安裝 python 用 vi修改 .bash_profile文件 MPI并行環(huán)境簡介 二、 MPI基本環(huán)境 ? MPI環(huán)境的安裝過程示例 ⑤ 將 MPI路徑添加到環(huán)境變量 PATH ? 修改用戶配置文件 .bash_profile 修改后的 .bash_profile文件內容 路徑信息已添加 MPI并行環(huán)境簡介 二、 MPI基本環(huán)境 ? MPI環(huán)境的安裝過程示例 ⑥ 配置節(jié)點間 SSH無口令登錄 (注： SSH – Secure SHell) ? 創(chuàng)建公鑰 /私鑰對文件 創(chuàng)建后的文件 ? 將公鑰文件拷貝到其他節(jié)點的 .ssh目錄中的 authorized_keys文件 ? host1?host2的 SSH無口令登錄 MPI并行環(huán)境簡介 二、 MPI基本環(huán)境 ? MPI環(huán)境的安裝過程示例 ⑦ 節(jié)點名添加到 mpd_hosts文件，構成 ring ⑧ 啟動并測試 MPI環(huán)境 /etc/hosts文件中存儲主機名稱與 IP地址的映射表 ~/MPI節(jié)點列表 為保證節(jié)點間通信正常和性能，需關閉 Linux防火墻 MPI并行環(huán)境簡介 二、 MPI基本環(huán)境 ? MPI程序編譯 – MPI提供編譯腳本： mpiCC/mpicc/mpif77/mpif90 ? mpiCCC++程序編譯及鏈接 ? mpiccC程序編譯及鏈接 ? mpif77和 mpif90Fortran77和 Fortran90程序編譯及鏈接 ? 關于編譯輸出可執(zhí)行文件的位置 – 要求各節(jié)點都可以訪問該文件 (注意各節(jié)點都將執(zhí)行該程序 ) ? 方法一：編譯后手工將文件拷貝到各節(jié)點 例： $scp cpi host2:/home/test ? 方法二：配置 NFS共享目錄，各節(jié)點啟動時將共享目錄 mount到本機文件系統(tǒng)中，編譯輸出的可執(zhí)行文件直接存入該目錄 MPI并行環(huán)境簡介 二、 MPI基本環(huán)境 ? MPI程序的運行 – 使用 mpiexec啟動 MPI應用程序 ? MPI過去使用 mpirun 基本命令示例： mpiexec n num executable ? num表示進程個數 (注意：是進程不是線程 ) ? executable為可執(zhí)行程序名，可以是 MPI程序，也可以不是 ? MPI程序的調試 – MPI提供了與 gdb和 totalview的集成接口 – mpiexec –gdb實現(xiàn)與 gdb的集成 ? 進程按順序指派在各節(jié)點上運行 ? 進程個數與節(jié)點個數沒有必然聯(lián)系 問題：怎樣能寫出獨立于進程個數和節(jié)點個數的程序 ？ MP