基于GPU的矩陣乘法優(yōu)化研究.pdf

1、傳統單核處理器的性能由于散熱、功耗等問題，已無法與硬件資源發(fā)展速度相適應，但近幾年來高性能計算領域的新興應用的發(fā)展對計算機的性能要求卻越來越高。相對于傳統的單核處理器，多核/眾核處理器可利用線程級并行獲得性能提升，從而更好地滿足高性能計算領域對計算機的性能要求，目前已被學術界和產業(yè)界廣泛接受。然而，多核/眾核平臺雖擁有較高的浮點峰值和計算能力，但它的結構和編程環(huán)境具有一定復雜性，如何充分挖掘眾核處理器的強大計算能力便成為了一個突出的問題

2、。為了解決該問題，探索眾多應用中的核心算法，并針對多核/眾核平臺特點對其進行優(yōu)化便顯得尤為重要。本文以稠密矩陣向量乘法(The matrix-vector multiplication routine forgeneral dense matrices，GEMV)、稀疏矩陣向量乘法(sparse matrix-vectormultiplication，SpMV)作為規(guī)則應用核心算法與非規(guī)則應用核心算法的代表進行研究:
　　(1)采

3、用面向眾核GPU的高速緩存分塊方法設計更優(yōu)的基于眾核GPU稠密矩陣向量乘算法，第一種算法從提高線程并行度的角度出發(fā)，能夠很好的提高GPU的利用率。利用同一個warp的線程代替?zhèn)鹘y高速緩存算法中一個線程，計算向量y中的一個對應元素。第二種算法，在第一種算法的基礎上加入了寄存器上數據重用的思想。寄存器資源是是GPU眾核平臺上最為快速的資源，是解決訪存瓶頸問題有效途徑。通過實驗對比分析，新的算法較傳統庫函數有著很好的性能提升，尤其是對小型和行

4、數大于列數的矩陣，性能提升了10％以上。此外，本文針對GPU眾核架構特點對寄存器重用次數對算法性能影響也進行了進一步研究。
　　(2)HYB存儲格式基礎上提出新的存儲格式對稀疏矩陣向量乘法進行優(yōu)化，通過多次劃分使稀疏矩陣的COO存儲格式部分更小，并增加ELL格式的部分，以更好地利用眾核GPU的計算能力。此外，我們在實驗過程中對劃分參數進行了仔細分析，調優(yōu)后的結果進一步的提升了算法性能。實驗結果表明，與傳統的基于HYB格式的算法比較

5、，基于HYB-I格式的稀疏矩陣向量乘法在我們的稀疏矩陣測試集上獲得了更高的性能，最好的情況下性能提升比達到17％。
　　(3)針對稀疏矩陣向量乘法提出新的基于BCSR格式的高速緩存分塊方法，對稀疏矩陣進行劃分并以CSR格式進行存儲，利用高速緩存分塊思想，將向量x在共享內存中多次利用，有效地提高了了訪存效率，使稀疏矩陣向量乘法性能得到提升。實驗表明，最好情況下，稀疏矩陣向量乘的高速緩存分塊方法比CSR格式計算結果的速度有5倍的提升。