面向GPU的數(shù)據(jù)流程序并行優(yōu)化.pdf

1、圖形處理單元（GPU）具有價(jià)格低廉和計(jì)算能力強(qiáng)大等特點(diǎn)，這使其近年來(lái)在高性能計(jì)算領(lǐng)域日益風(fēng)靡。新的編程語(yǔ)言CUDA和OpenCL的出現(xiàn)使得GPU編程變得廣為接受，但是GPU編程仍然是很復(fù)雜的任務(wù)，其原因有兩點(diǎn)：一方面，為指定的GPU設(shè)計(jì)算法是非常耗時(shí)的，要求編程人員對(duì)算法本身和GPU底層架構(gòu)都十分熟知；另一方面，GPU代碼缺乏可移植性，同一份代碼在不同GPU上獲得的性能可能會(huì)有巨大的差別。要想將已有的某一GPU上的代碼移植到另一GPU上

2、且保持較高的性能幾乎是不可能的，往往需要對(duì)其進(jìn)行大量的修改才能達(dá)到目標(biāo)。
　　針對(duì)GPU編程的復(fù)雜性和可移植性問(wèn)題，設(shè)計(jì)并實(shí)現(xiàn)了一種可以有效地將數(shù)據(jù)流程序映射到GPU上的編譯框架，該框架的輸入為COStream程序，輸出為針對(duì)GPU平臺(tái)并行優(yōu)化后的OpenCL目標(biāo)代碼。系統(tǒng)針對(duì)GPU平臺(tái)進(jìn)行兩個(gè)層次的優(yōu)化：軟件流水調(diào)度和GPU平臺(tái)的數(shù)據(jù)流程序優(yōu)化。軟件流水調(diào)度的任務(wù)劃分階段利用METIS對(duì)任務(wù)進(jìn)行劃分，盡量考慮到負(fù)載均衡和通信開銷

3、。在針對(duì)GPU平臺(tái)的優(yōu)化過(guò)程中引入了擴(kuò)大因子，合理設(shè)置擴(kuò)大因子既可以讓應(yīng)用程序充分利用GPU計(jì)算資源，又能有效減少線程間同步次數(shù)，降低同步開銷。CPU和GPU之間的數(shù)據(jù)傳輸可以利用固定內(nèi)存技術(shù)來(lái)加速。有效的將計(jì)算任務(wù)和通信任務(wù)重疊對(duì)提升程序性能有很大的幫助。此外，局部?jī)?nèi)存的合理使用不僅能實(shí)現(xiàn)對(duì)全局內(nèi)存的合并訪問(wèn)，也能減少對(duì)全局內(nèi)存的訪問(wèn)次數(shù)，從而降低訪存開銷。其他的OpenCL優(yōu)化方法比如內(nèi)建本地函數(shù)的使用也能在一定程度上提升程序性能。