CPU與GPU混合虛擬化資源高效調(diào)度策略.pdf

1、目前工業(yè)界，由多核CPU和擁有大量核數(shù)的GPU組成的系統(tǒng)架構(gòu)已經(jīng)成為云計(jì)算中處理混合負(fù)載的強(qiáng)有力的平臺(tái)。然而多個(gè)虛擬機(jī)之間共享CPU和GPU資源依然存在亟待解決的難題。有效的GPU資源調(diào)度策略的缺乏造成GPU密集型負(fù)載的性能混亂和GPU資源的浪費(fèi)。其次負(fù)載的異構(gòu)性使CPU密集型的負(fù)載占用大量的CPU和IO資源，這會(huì)影響GPU密集型負(fù)載的性能。如果對(duì)每一個(gè)負(fù)載定義各自的服務(wù)等級(jí)協(xié)議（簡(jiǎn)稱SLA），那么在混合負(fù)載情況下它們的SLA是很難被保

2、證的。最后，由于云計(jì)算數(shù)據(jù)中心需要和用戶維持大量的網(wǎng)絡(luò)連接，而有限的網(wǎng)絡(luò)帶寬資源成為影響用戶體驗(yàn)的重要瓶頸。
　　針對(duì)上述三個(gè)問題，本文提出了一種基于虛擬化的分布式拓?fù)浣Y(jié)構(gòu)，這是一個(gè)能夠高效合理地處理GPU與CPU混合資源調(diào)度的輕量級(jí)框架。該框架由兩部分組成，其中第一部分運(yùn)行在單個(gè)物理節(jié)點(diǎn)中并負(fù)責(zé) GPU、CPU和網(wǎng)絡(luò)帶寬資源調(diào)度。它采用微軟的鉤（Hook）技術(shù)，通過攔截相關(guān)的應(yīng)用程序編程接口（Application Progra

3、mming Interface）對(duì)虛擬機(jī)內(nèi)應(yīng)用程序申請(qǐng)的資源進(jìn)行調(diào)度，全過程不對(duì)客戶操作系統(tǒng)、宿主操作系統(tǒng)、底層驅(qū)動(dòng)程序以及負(fù)載程序進(jìn)行任何修改?？蚣艿牡诙糠质怯瑟?dú)立的主控機(jī)器（master）運(yùn)行，接受外來的用戶請(qǐng)求并自動(dòng)做出仲裁，向受控機(jī)器（slave）發(fā)出響應(yīng)指令，最終該受控機(jī)器會(huì)自動(dòng)啟動(dòng)新的虛擬機(jī)和用戶建立起網(wǎng)絡(luò)連接，響應(yīng)用戶請(qǐng)求。
　　本框架集成了若干資源調(diào)度策略，即兩個(gè)CPU資源調(diào)度算法和兩個(gè)網(wǎng)絡(luò)帶寬資源調(diào)度算法。它們

4、分別是開環(huán)控制調(diào)度策略、自適應(yīng)控制調(diào)度策略、基于公平的資源調(diào)度策略、基于共享的資源調(diào)度策略。前兩者針對(duì)CPU資源的調(diào)度，后兩者針對(duì)網(wǎng)絡(luò)帶寬資源的調(diào)度。調(diào)度策略在實(shí)現(xiàn)中引入了自動(dòng)控制技術(shù)，增強(qiáng)了負(fù)載運(yùn)行時(shí)性能的穩(wěn)定性和健壯性，有效控制混合負(fù)載的QoS水平。
　　最后實(shí)驗(yàn)驗(yàn)證，本文所提出的框架適用于實(shí)際混合負(fù)載計(jì)算場(chǎng)景。主控機(jī)器有效地控制受控機(jī)器響應(yīng)用戶請(qǐng)求?？蚣芗傻馁Y源調(diào)度策略能有效地在運(yùn)行多個(gè)GPU和CPU密集型負(fù)載的服務(wù)器上進(jìn)