矩陣相乘在gpu上的并行實(shí)現(xiàn)

1、矩陣相乘在GPU上的并行實(shí)現(xiàn)1問(wèn)題描述這里討論矩陣相乘C=AB，其中矩陣A、B、C均為大小為nn的方陣。由矩陣相乘定義，可得：Cij=∑AikBkj，其中，ijn，且k從0到n1，累積求和得到結(jié)果矩陣C中每個(gè)元素的值。矩陣相乘是高度密集型的計(jì)算問(wèn)題，各元素之間的計(jì)算沒(méi)有相關(guān)性，因此，非常易于并行化。為了便于并行實(shí)現(xiàn)，很自然地將矩陣進(jìn)行劃分，然后指派給不同的處理器。兩種常見(jiàn)的劃分方法，為行列劃分（又稱為帶狀劃分）和棋盤(pán)劃分（又稱為塊狀劃分

2、）。這里，我們采用棋盤(pán)劃分方法將矩陣相乘在NVIDIA新型GPU架構(gòu)上進(jìn)行并行化，采用CUDAC語(yǔ)言進(jìn)行編程實(shí)現(xiàn)。2GPU硬件構(gòu)成（GT200）GT200系列GPU擁有30個(gè)SM（StreamingMultiprocess：多處理器），每個(gè)SM里擁有8個(gè)SP（Streamingprocess：流處理器），SP是GPU內(nèi)部最小的計(jì)算核心，每8個(gè)SP位于同一SM中共享同一套取指單元、譯碼單元。大量的SP可以同時(shí)工作，有著強(qiáng)大的并行計(jì)算能力。

3、globalmemyGPU……SMSPSPSPSPSPSPSPSPsharedSMSPSPSPSPSPSPSPSPsharedSMSPSPSPSPSPSPSPSPsharedSMSPSPSPSPSPSPSPSPsharedSMSPSPSPSPSPSPSPSPsharedhostmemy顯存，屬于GPU片外存儲(chǔ)，由全局存儲(chǔ)器（globalmemy）、固定存儲(chǔ)器（constantmemy）、紋理存儲(chǔ)器（texturememy）三者共同構(gòu)成，

4、共有4GB大小的空間，這里我們用到了全局存儲(chǔ)器，它是對(duì)所有的SM可見(jiàn)，由它們共享，全局有著嚴(yán)重的訪存延遲；共享存儲(chǔ)器（sharedmemy），位于GPU片內(nèi)，每個(gè)SM擁有16KB的共享存儲(chǔ)空間，由之和構(gòu)成。數(shù)據(jù)一開(kāi)始存入在全局存儲(chǔ)器中，由于訪問(wèn)全局存儲(chǔ)器有著很大的延遲，將數(shù)據(jù)從全局存儲(chǔ)器中調(diào)入到共享存儲(chǔ)器中進(jìn)行計(jì)算。BAC(ij)N101N110……用GPU實(shí)現(xiàn)矩陣相乘時(shí)具體步驟如下：（1）初始數(shù)據(jù)從hostmemy→globalmem

5、y；（2）調(diào)用內(nèi)核函數(shù)使用GPU進(jìn)行計(jì)算：（i）將子塊AikBkj拷貝至共享內(nèi)存中；（ii）使用相應(yīng)的SM完成累加運(yùn)算；（iii）重復(fù)（i）（ii），直到完成Cij的計(jì)算；（3）計(jì)算結(jié)果從globalmemy→hostmemy。在CUDA編程模型中，一個(gè)子塊計(jì)算由GPU線程調(diào)度器自動(dòng)分配給空閑的SM執(zhí)行，對(duì)于一個(gè)SM來(lái)說(shuō)，它處理完成一個(gè)塊后會(huì)執(zhí)行后面等待中的子塊計(jì)算。即，我們定義一個(gè)內(nèi)核程序，而每個(gè)SM都會(huì)執(zhí)行這個(gè)內(nèi)核程序。只需要描述一