基于多線程應(yīng)用特性的多-眾核系統(tǒng)片上互連與緩存一致性整體優(yōu)化方法.pdf

1、當(dāng)高性能處理器集成核數(shù)達(dá)到16-64個核及以上時，其本質(zhì)上已是一個TFlops的高性能并行計算機系統(tǒng)。芯片除了單獨工作，又有連成更大的計算機系統(tǒng)的需求。一般在互連通信研究上重視處理器間的連接，但實際系統(tǒng)設(shè)計中其突出的問題是如何協(xié)同處理多核互連和運行時存儲一致性。處理器核的連接需要協(xié)同分布式共享存儲器的訪問。在訪問存儲器時，保證多核存儲層次的一致性和效率占用了互連通信相當(dāng)多的軟硬件資源，增加了運行中的延遲開銷，降低了并行計算的效率和系統(tǒng)的

2、可擴展性。因此必須要把數(shù)據(jù)傳輸和存儲層次統(tǒng)一考慮，合理地處理好高速緩存的一致性。本文多角度分析應(yīng)用程序數(shù)據(jù)相關(guān)特性，明確多/眾核系統(tǒng)的性能瓶頸和優(yōu)化方向，對存儲子系統(tǒng)和互連子系統(tǒng)整體優(yōu)化，提高數(shù)據(jù)存儲、維護和通信的效率，降低硬件、時延和能耗開銷，提高系統(tǒng)效能。
　　本研究主要內(nèi)容包括：⑴對具有代表性的多線程應(yīng)用程序進行實驗分析，跟蹤統(tǒng)計多個維度的各項性能參數(shù)，包括工作集大小、數(shù)據(jù)共享特性、數(shù)據(jù)局部性、數(shù)據(jù)線程親緣性、片上通信量、一

3、致性維護等。通過分析各項性能參數(shù)，應(yīng)用統(tǒng)計學(xué)方法分析特定性能參數(shù)的分布規(guī)律，理解各應(yīng)用程序?qū)Υ鎯Y源的需求、一致性維護的需求、通信需求，剖析不同應(yīng)用程序的差異，明確存儲子系統(tǒng)和互連子系統(tǒng)的優(yōu)化方向，為一致性和互連優(yōu)化研究奠定基礎(chǔ)。⑵基于應(yīng)用程序通信量的統(tǒng)計分析，根據(jù)數(shù)據(jù)線程親緣性信息，優(yōu)化數(shù)據(jù)和線程的映射算法，提高數(shù)據(jù)的局部性，減少數(shù)據(jù)通信的開銷，降低片上網(wǎng)絡(luò)的能耗。應(yīng)用程序的統(tǒng)計分析表明，各應(yīng)用程序不同的線程和數(shù)據(jù)之間親緣性存在較大差

4、異，表現(xiàn)為通信需求不同；數(shù)據(jù)和線程在系統(tǒng)中的映射方式直接影響著通信量的大小。本文提出線程數(shù)據(jù)親緣性感知的映射算法，整體優(yōu)化數(shù)據(jù)和線程的映射，保證負(fù)載的均衡，采用模擬淬火算法，使通信量逼近最小值。16路片上多核系統(tǒng)的多線程應(yīng)用仿真結(jié)果表明，通信量平均降低一倍，網(wǎng)絡(luò)能耗減少42％，系統(tǒng)性能提升9%。⑶針對多線程應(yīng)用程序一致性維護的需求和通信的需求，對片上互連通信與緩存一致性進行協(xié)同設(shè)計，提升一致性維護和數(shù)據(jù)通信的效率，降低一致性維護開銷，減

5、少數(shù)據(jù)訪問和通信的時延。應(yīng)用高速片上傳輸線，結(jié)合傳統(tǒng)網(wǎng)格網(wǎng)絡(luò)，構(gòu)建片上異構(gòu)互連系統(tǒng)，根據(jù)消息的時延敏感性動態(tài)選擇不同的傳輸媒介。通過在線跟蹤數(shù)據(jù)時間局部性，自適應(yīng)調(diào)整數(shù)據(jù)的存儲策略和一致性維護策略，提升存儲系統(tǒng)的資源利用率。16路片上多核系統(tǒng)的多線程應(yīng)用仿真結(jié)果表明，一致性維護的時延開銷平均降低一個數(shù)量級，數(shù)據(jù)訪問加速一倍，數(shù)據(jù)通信量減少32%，互連系統(tǒng)能耗降低一半，系統(tǒng)性能提升14%。⑷基于應(yīng)用程序數(shù)據(jù)空間局部性和共享特性的分析，提出

6、了自適應(yīng)多粒度目錄來降低一致性目錄的硬件開銷。不同于傳統(tǒng)目錄以單個高速緩存塊為單位進行一致性維護，根據(jù)應(yīng)用程序的空間局部性，實時動態(tài)調(diào)整一致性維護的粒度，采用單個目錄條目管理連續(xù)地址空間區(qū)域的數(shù)據(jù)。與傳統(tǒng)塊條目結(jié)合，降低目錄面積和硬件開銷的同時避免虛假共享引起額外的一致性維護操作，實現(xiàn)更具表現(xiàn)力的目錄高速緩存。本文將自適應(yīng)多粒度目錄擴展應(yīng)用于大規(guī)模16片多核系統(tǒng)，提出減少緩存數(shù)據(jù)無效化操作的替換表設(shè)計，提升存儲資源利用率。16片多核系統(tǒng)