新型異構(gòu)并行計算機上的數(shù)據(jù)傳輸與程序設(shè)計陳一峯北京大學(參考版)
2024-10-28 15:42本頁面
【正文】 create D(a) create D(b) insert DataTransfer(a, A, b, B){} destroy D(a) destroy D(b) } } CUDA + Pthread Discontiguous Communication parray { mpi[7168] } M parray { pinned[2][14336][14336] } D parray {[[M][D_0][D_1]][D_2]} S parray {[[D_1][M][D_0]][D_2]} T insert DataTransfer(t,T,s,S) {} mainhost { parallel { detour pthd[3] { …… detour mpi[4] { …… } } …… detour cuda[2][128] { …… detour cuda[4][256] { …… } …… } …… } } Hierarchical SPMDs GPU SGEMM 16 ]W ID TH[ A]W ID TH[ A 10 ]W ID TH[ B]W ID TH[ B 10 ]W ID TH[ C]W ID TH[ C 10???????????? ]32[A]32/W ID T H[ A]16[A]16/W ID T H[ A 11100100???????
教學課件相關(guān)推薦
鄂ICP備17016276號-1