流水和指令級高度并行的超級機

1、第五章流水和指令級高度并行的超級機,,加速機器語言解釋的兩種方式,通過選用更高速的器件，采用更好的運算方法、提高指令內(nèi)各微操作的并行程度，減少解釋過程所需要的拍數(shù)，以加快每條指令的解釋。通過控制機構(gòu)采用同時解釋兩條、多條以至整段程序的控制方式，加快整個機器語言程序的解釋。重疊、流水。,What Is Pipelining,Laundry（洗衣） ExampleAnn, Brian, Cathy, Dave each have

2、 one load of clothes to wash, dry, and foldWasher takes 30 minutesDryer takes 40 minutes“Folder” takes 20 minutes,What Is Pipelining,Sequential laundry takes 6 hours for 4 loadsIf they learned pipelining, how long

3、 would laundry take?,30,40,20,,,,30,40,20,,,,30,40,20,,,,30,40,20,,,,6 PM,,,7,8,9,10,11,Midnight,TaskOrder,,Time,What Is Pipelining Start work ASAP,Pipelined laundry takes 3.5 hours for 4 loads,6 PM,,,7,8,9,10

4、,11,Midnight,TaskOrder,,Time,Pipelining Lessons,Pipelining doesn’t help latency of single task, it helps throughput of entire workloadPipeline rate limited by slowest pipeline stageMultiple tasks operating sim

5、ultaneouslyPotential speedup = Number pipe stagesUnbalanced lengths of pipe stages reduces speedupTime to “fill” pipeline and time to “drain（排出）” it reduces speedup,6 PM,,,7,8,9,TaskOrder,,Time,What Is Pipeli

6、ning,目錄,重疊方式 流水方式 向量的流水處理與向量流水處理機 指令級高度并行的超級處理機,§1 重疊方式,基本思想和一次重疊 相關(guān)處理,順序解釋與重疊解釋,順序解釋,重疊解釋的一種方式,一次重疊的工作方式,基本思想和一次重疊,順序解釋：各條機器指令之間順序串行地執(zhí)行，執(zhí)行完一條指令后采取出下條指令來執(zhí)行，而且每條指令內(nèi)部的各個微操作也是順序串行地執(zhí)行。 優(yōu)點：控制簡單。重疊解釋：在解釋第k條指令的操作完成之

7、前，就可開始解釋第k+1條指令不能加快一條指令的實現(xiàn)但能加快相鄰兩條以至一段程序的解釋,時間重疊，解決訪存沖突,操作數(shù)和指令分存于兩個獨立編址且可同時訪問的存儲器，有利于實現(xiàn)指令保護，增加總線控制和軟件設(shè)計的復雜性混存，采用多體交叉主存結(jié)構(gòu)增設(shè)指令緩沖寄存器,解決訪存沖突（續(xù)）,在硬件上，保證又獨立的指令分析部件和指令執(zhí)行部件； 兩部分執(zhí)行的時間常常不相同，在硬件上解決好控制上的同步； 控制上的其他問題指令轉(zhuǎn)移，下圖,相關(guān)

8、問題,數(shù)相關(guān)：第k、k+1條指令的數(shù)據(jù)地址之間有了關(guān)聯(lián)。數(shù)相關(guān)不僅發(fā)生在主存空間，還會發(fā)生在通用寄存器空間指令相關(guān)：采用Von Neumann型機器上指令可修改的辦法經(jīng)第k條指令的執(zhí)行來形成第k+1條指令,指令相關(guān)的處理,原因：Von Neumann型機器的指令允許修改。解決：在程序執(zhí)行過程中，不準修改指令，除可解決指令相關(guān)，也可實現(xiàn)程序的可再入性和程序的遞歸調(diào)用。,主存空間數(shù)相關(guān)的處理,相鄰兩條指令之間要求對主存同一單元線寫入

9、而后再讀出的關(guān)聯(lián)。解決：延遲。,通用寄存器數(shù)相關(guān)處理,延遲和設(shè)置“相關(guān)專用通路”是解決重疊方式相關(guān)處理的兩種基本方法。前者設(shè)備不變，降低速度；后者增加設(shè)備，效率不變。,舉例,假設(shè)指令：操作碼 L1 L3 B2 d2L1,L3分別指明存放第一操作數(shù)和結(jié)果數(shù)的通用寄存器號B2為形成第二操作數(shù)地址的基址值所在的通用寄存器號D2為相對位移量,指令解釋過程中與通用寄存器內(nèi)容有關(guān)的微操作時間關(guān)系,存結(jié)果,“執(zhí)行”、“分析”重疊時

10、，訪問通用寄存器組的時間關(guān)系,,當程序執(zhí)行過程中出現(xiàn)L1(k+1)=L3(k),就發(fā)生L1相關(guān)；而當L2(k+1)=L3(k),就發(fā)生L2相關(guān)；解決：退后，延遲設(shè)備不增加，速度降低，適合于相關(guān)概率低設(shè)置“相關(guān)專用通路”增加設(shè)備，效率不會明顯下降，適合于相關(guān)概率高,用相關(guān)專用通路解決通用寄存器組的數(shù)相關(guān),順序執(zhí)行方式,執(zhí)行n條指令所用的時間為：如每段時間都為t，則執(zhí)行n條指令所用的時間為：T=3nt主要優(yōu)點：控制

11、簡單，節(jié)省設(shè)備主要缺點：執(zhí)行指令的速度慢，功能部件的利用率很低。,一次重疊執(zhí)行方式(一種最簡單的流水線方式),如果兩個過程的時間相等，則執(zhí)行n條指令的時間為：T=(1+2n)t主要優(yōu)點：指令的執(zhí)行時間縮短功能部件的利用率明顯提高主要缺點：需要增加一些硬件控制過程稍復雜,二次重疊執(zhí)行方式,如果三過程的時間相等，執(zhí)行n條指令的時間為：T=(2+n)t理想情況下同時有三條指令在執(zhí)行處理機的結(jié)構(gòu)要作比較大的改變，必須采用先行

12、控制方式,先行控制方式的原理,采用二次重疊執(zhí)行方式，必須解決兩個問題：有獨立的取指令部件、指令分析部件和指令執(zhí)行部件 獨立的控制器：存儲控制器、指令控制器、運算控制器要解決訪問主存儲器的沖突問題 取指令、分析指令、執(zhí)行指令都可能要訪問存儲器解決訪存沖突的方法：采用低位交叉存取方式：這種方法不能根本解決沖突問題。,先行控制方式的原理（續(xù)）,兩個獨立的存儲器：獨立的指令存儲器和數(shù)據(jù)存儲器。如果再規(guī)定，執(zhí)行指令所需

13、要的操作數(shù)和執(zhí)行結(jié)果只寫到通用寄存器，那么，取指令、分析指令和執(zhí)行指令就可以同時進行。 在許多高性能處理機中，有獨立的指令Cache和數(shù)據(jù)Cache。 這種結(jié)構(gòu)被稱為哈佛結(jié)構(gòu)(Harvard architecture)。,先行控制方式的原理（續(xù)）,采用先行控制技術(shù)。先行控制技術(shù)的關(guān)鍵是緩沖技術(shù)和預處理技術(shù)。緩沖技術(shù)是在工作速度不固定的兩個功能部件之間設(shè)置緩沖棧，用以平滑它們的工作。在采用了緩沖技術(shù)和預處理技術(shù)之后，運