高性能末級緩存管理策略研究.pdf

1、隨著技術(shù)的進步，微處理器與存儲器之間的性能差距越來越大。為了減緩處理器與存儲器之間的性能差距，片上緩存被廣泛使用。緩存的工作基礎(chǔ)是程序數(shù)據(jù)訪問的局部性。然而，很多研究表明這些緩存在使用傳統(tǒng)的緩存管理策略時，利用效率低下，緩存中存儲的塊只有少部分在被最終替換出去之前會被再次訪問。本文對緩存訪問行為進行分析，提出了兩種優(yōu)化緩存性能的管理策略。
　　近期很多研究提出在緩存缺失時，通過改變塊的插入位置可以有效地提高緩存的性能。與傳統(tǒng)的LR

2、U替換策略不同，這些策略能更準(zhǔn)確地預(yù)測缺失塊未來的重用行為，從而大大降低那些只被訪問一次的塊帶來的緩存污染。與此同時，這些插入策略間接地為具有良好局部性的塊提供更多留在緩存中的機會。然而，它們執(zhí)行相同的緩存命中提升策略，也就是在緩存命中時，將塊提升到鏈的首部。如果一個塊被訪問少數(shù)次后就不再被訪問，這種策略會降低緩存的性能。
　　針對這個問題，本文提出了基于位置信息的提升策略來進一步改善緩存的性能。當(dāng)緩存塊被命中時，該策略將緩存塊提

3、升到當(dāng)前位置與隊首位置之間的一個合適位置上。這個合適的位置可以讓緩存塊在被淘汰出去以前有足夠的時間接受下一次命中，同時在此塊不會被再次命中的情況下，能讓該塊盡快被淘汰出去以減少緩存污染?；谖恢眯畔⒌奶嵘呗酝瑫r考慮了緩存塊的訪問頻率(Frequency)和新近性(Recency)信息，實驗表明，系統(tǒng)整體性能相對于目前最高效的重用距離預(yù)測策略要高0.74％。
　　基于位置信息的緩存提升策略改進了緩存的性能，但它是靜態(tài)的，不能自動適

4、應(yīng)程序運行時的變化。同時，由于被訪問的塊最終都要從鏈尾部被替換出去，當(dāng)緩存中存在大量只被訪問少數(shù)次的塊時，緩存性能還有改善空間。針對這兩個問題，本文提出了基于分組的緩存管理策略。我們將緩存塊分為重用組和非重用組，通過學(xué)習(xí)，可以確定程序運行時緩存命中的塊分布，并由此決定重用組和非重用組的緩存數(shù)量分配。這樣，基于分組的緩存管理策略就可以動態(tài)地適應(yīng)各不相同的程序以及同一程序運行的不同階段。本文還通過計數(shù)器衰減以及抽樣技術(shù)來降低策略的硬件開銷。