基于運(yùn)行特性的GPGPU節(jié)能研究.pdf

1、隨著GPGPU在通用計(jì)算領(lǐng)域的廣泛推廣，實(shí)際應(yīng)用對(duì)GPGPU的計(jì)算能力提出了更高的要求。為了滿足應(yīng)用的需求，GPGPU集成的處理單元的數(shù)量不斷增加，處理器的工作頻率也在不斷提升。雖然GPGPU的計(jì)算能力得到了一定的提高，然而付出的代價(jià)是GPGPU的能耗急劇增加。日益嚴(yán)重的能耗問題已經(jīng)成為限制GPGPU應(yīng)用到更多領(lǐng)域的主要障礙。
　　 只有針對(duì)計(jì)算指令比較多的程序，GPGPU多線程并行的優(yōu)勢才能得到體現(xiàn)。對(duì)于訪存指令比較多的程序，

2、SIMD流水線經(jīng)常會(huì)因訪存延遲而停頓，GPGPU計(jì)算能力并不能得到充分發(fā)揮。當(dāng)大量流水線出現(xiàn)停頓時(shí)，降低核的頻率來匹配訪存的速度，可以在保證程序性能的前提下實(shí)現(xiàn)節(jié)能。
　　 本文觀察到GPGPU在運(yùn)行時(shí)，不同程序的性能有較大的差異。通過將程序指令分為訪存指令和計(jì)算指令兩類，本文分析了兩類指令對(duì)程序性能的影響。為了描述程序在運(yùn)行過程中因訪存延遲而出現(xiàn)的流水線停頓，本文提出了warp發(fā)射率作為描述程序運(yùn)行特性的統(tǒng)一指標(biāo)，具體為平均每

3、個(gè)SM在每個(gè)時(shí)鐘周期中發(fā)射warp的數(shù)量。該指標(biāo)能對(duì)GPGPU程序的性能進(jìn)行指令級(jí)的評(píng)估。
　　 其次本文根據(jù)能耗與頻率的關(guān)系模型，基于GPGPU程序的運(yùn)行特性，提出了對(duì)GPGPU進(jìn)行調(diào)頻以達(dá)到平衡性能和能耗的目的。當(dāng)warp發(fā)射率比較高的時(shí)候，以較高頻率運(yùn)行程序，保證程序的性能;當(dāng)warp發(fā)射率比較低的時(shí)候，以較低頻率運(yùn)行程序，減少GPGPU的能耗。本文具體提出了靜態(tài)調(diào)頻和動(dòng)態(tài)調(diào)頻兩種策略，前者根據(jù)程序的離線分析確定合適頻率，

4、后者根據(jù)程序的運(yùn)行時(shí)特性在線調(diào)整頻率。同時(shí)，本文對(duì)兩種調(diào)頻策略的優(yōu)勢和劣勢進(jìn)行了分析，并指出了它們各自比較適合的應(yīng)用場景。
　　 處理器能耗模擬器Wattch能夠計(jì)算處理器器件的功耗，目前主要用于模擬CPU功耗。本文對(duì)其進(jìn)行了大量分析和修改，并與一個(gè)時(shí)鐘精確的GPU模擬器GPGPU-Sim進(jìn)行整合，實(shí)現(xiàn)了GPGPU能耗的模擬。同時(shí)模擬了部分程序的能耗，并與它們在真實(shí)GPGPU上的能耗進(jìn)行對(duì)比，驗(yàn)證了Wattch模擬GPGPU能耗

5、具有較好的準(zhǔn)確性。
　　 為了驗(yàn)證本文提出的兩種調(diào)頻策略的節(jié)能效果，在Wattch和GPGPU-Sim整合的實(shí)驗(yàn)平臺(tái)上，實(shí)現(xiàn)了本文提出的兩種調(diào)頻策略。測試了6個(gè)具有代表性的測試程序，并與基準(zhǔn)測試數(shù)據(jù)進(jìn)行了比較。實(shí)驗(yàn)數(shù)據(jù)表明，靜態(tài)調(diào)頻策略平均可以節(jié)省19.7％的能耗，而平均執(zhí)行時(shí)間只增加13.1％左右;動(dòng)態(tài)調(diào)頻策略平均可以節(jié)省18％的能耗，而平均執(zhí)行時(shí)間只增加13.4％左右。對(duì)于部分應(yīng)用程序，兩種調(diào)頻策略最多可以節(jié)省40％左右的能