基于線程重組的GPGPU訪存不規(guī)則問題微架構(gòu)方案研究與驗證.pdf

1、近十年來，隨著可編程性和計算能力的不斷提升，GPU的應(yīng)用范圍已擴展至通用計算領(lǐng)域。眾多通用計算GPU程序中包含訪存不規(guī)則性。訪存不規(guī)則性阻礙了GPU緩存對線程束內(nèi)和線程束間數(shù)據(jù)局部性的捕獲，使得程序執(zhí)行速度低下。研究人員對GPU微架構(gòu)進行了大量改進，以保護GPU程序中的數(shù)據(jù)局部性。但現(xiàn)有技術(shù)尚不能有效保護訪存不規(guī)則程序中的線程束間數(shù)據(jù)局部性。為此，本文設(shè)計了基于線程重組的線程束間數(shù)據(jù)局部性保護方案。
　　本文首先介紹了該線程重組方

2、案包含的兩項技術(shù)措施:(1)在線程束之間交換線程以避免線程束間的緩存競爭、保護數(shù)據(jù)局部性;(2)對訪存流進行調(diào)整，以降低訪存延時并提升訪存不規(guī)則程序性能。接著，本文闡述了實現(xiàn)上述技術(shù)措施所需的GPU微架構(gòu)修改，即引入重組緩沖區(qū)和修改發(fā)射邏輯。隨后，本文分析了線程重組的性能開銷，并討論了減少開銷的具體措施。最后，本文結(jié)合線程重組和一項線程束內(nèi)數(shù)據(jù)局部性保護技術(shù)MRPB，設(shè)計了兼顧線程束間和線程束內(nèi)數(shù)據(jù)局部性的綜合方案。該微架構(gòu)方案在GPU

3、程序執(zhí)行初期對其進行訪存特征分析，根據(jù)程序特征分別采用線程重組和MRPB技術(shù)保護不同類型的數(shù)據(jù)局部性。
　　本文在仿真平臺GPGPU-Sim上分別實現(xiàn)了線程重組方案和綜合方案，并使用以訪存不規(guī)則程序為主的GPGPU測試集PolyBench對兩者進行了驗證。實驗結(jié)果表明，與基準(zhǔn)架構(gòu)相比，線程重組方案使得一級緩存缺失平均減少28.2％，IPC平均提升44.9％。上述結(jié)果表明，本文設(shè)計的線程重組方案可以有效保護數(shù)據(jù)局部性，提升訪存不規(guī)則