基于棧的GPGPU調(diào)度器設(shè)計(jì)研究.pdf

1、GPGPU的主要目標(biāo)是利用GPU強(qiáng)大的并行計(jì)算能力進(jìn)行通用目的的計(jì)算。為了支持通用計(jì)算，GPU的結(jié)構(gòu)也開(kāi)始針對(duì)通用計(jì)算優(yōu)化，但GPU固有的SIMD工作方式依然是限制其性能發(fā)揮的巨大障礙。其主要的問(wèn)題是SIMD及其類似結(jié)構(gòu)所面臨的控制分離和存儲(chǔ)分離問(wèn)題。而目前在控制分離上的研究往往沒(méi)有考慮其對(duì)存儲(chǔ)系統(tǒng)造成的影響，從而可能導(dǎo)致其性能不穩(wěn)定，甚至出現(xiàn)性能下降。
　　 本文總結(jié)了GPGPU線程調(diào)度的研究現(xiàn)狀，指出了其中存在的問(wèn)題。其中，

2、PDOM機(jī)制不能調(diào)度其所有分支路徑；DWS的分支機(jī)制雖然能調(diào)度所有的分支路徑卻存在則由于缺少子恢復(fù)點(diǎn)信息而面臨warp過(guò)度細(xì)分的問(wèn)題。針對(duì)PDOM機(jī)制和DWS機(jī)制的優(yōu)缺點(diǎn)，本文提出了一種子恢復(fù)點(diǎn)感知的混合棧式機(jī)制，該棧式機(jī)制通過(guò)增加葉子節(jié)點(diǎn)表和附加的數(shù)據(jù)通道。該混合棧式機(jī)制能對(duì)任意路徑的節(jié)點(diǎn)進(jìn)行正常的PDOM機(jī)制的恢復(fù)操作，且具備DWS機(jī)制的所有分支路徑的調(diào)度能力，在這基礎(chǔ)上還能防止DWS過(guò)度細(xì)分，具備了更強(qiáng)的調(diào)度靈活性。
　　

3、 為了充分發(fā)揮本文混合棧式機(jī)制的延遲覆蓋潛力，本文通過(guò)分析發(fā)現(xiàn)，如果能讓一部分warp先于其他warp先行執(zhí)行，就能讓后續(xù)的warp利用其計(jì)算周期覆蓋前面先跑warp的計(jì)算周期，強(qiáng)化GPGPU的延遲覆蓋能力。由此出發(fā)本文提出了一種基于窗口的調(diào)度機(jī)制，該機(jī)制通過(guò)引入調(diào)度窗口和等待隊(duì)列，讓調(diào)度窗口中的warp先于等待隊(duì)列中的warp先運(yùn)行，并在調(diào)度窗口內(nèi)的warp遇到長(zhǎng)周期存儲(chǔ)訪問(wèn)時(shí)切換warp，并通過(guò)先行發(fā)射混合棧式機(jī)制中存在存儲(chǔ)指令的分

4、支來(lái)進(jìn)一步強(qiáng)化存儲(chǔ)延遲覆蓋能力。本文對(duì)調(diào)度器窗口的大小、子warp調(diào)度優(yōu)先級(jí)以及存儲(chǔ)節(jié)流等調(diào)度策略和實(shí)現(xiàn)細(xì)節(jié)進(jìn)行了討論。
　　 本文通過(guò)GPGPU-SIM模擬器對(duì)該棧式機(jī)制及基于窗口的調(diào)度算法進(jìn)行了驗(yàn)證。通過(guò)對(duì)12種組合進(jìn)行性能對(duì)比測(cè)試和敏感性測(cè)試，其結(jié)果表明，最佳的性能是在本文提出的兩種機(jī)制的組合下取得的，其相對(duì)于基準(zhǔn)測(cè)試平臺(tái)平均性能提高10.5％，相對(duì)于DWS平均性能提高6.8％，相對(duì)于PDOM和基于窗口調(diào)度機(jī)制的最佳性能提