基于鄰接表垂直劃分的NEu-BSP圖處理系統(tǒng)優(yōu)化技術(shù)的設計與實現(xiàn).pdf

1、近年來互聯(lián)網(wǎng)技術(shù)的迅猛發(fā)展，使得Web網(wǎng)絡、社交網(wǎng)絡等大規(guī)模網(wǎng)絡圖數(shù)據(jù)的分析處理成為了研究熱點，例如社交網(wǎng)絡中的最短路徑、網(wǎng)頁搜索的PageRank等。云計算(Cloud Computing)提供強大的并行計算處理能力。其中，最有代表性的就是MapReduce分布式并行編程模型。然而大多圖算法具有多次迭代的性質(zhì)，這并非MapReduce所擅長。隨著Google基于BSP模型實現(xiàn)的大規(guī)模圖處理系統(tǒng)Pregel的提出，在云環(huán)境中采用BSP模

2、型實現(xiàn)大規(guī)模圖處理系統(tǒng)成為了一個可選的解決途徑。“云計算平臺NEU-BSP大規(guī)模圖處理系統(tǒng)的研究與研發(fā)”項目提出了一種均衡劃分算法來保證子任務的頂點數(shù)量大致平衡，但是沒能夠有效降低任務間的通信量。因此，如何將一張大規(guī)模的圖劃分到各個計算結(jié)點上時，減少這些結(jié)點之間的通信量，是一個具有挑戰(zhàn)性的工作。
　　為了解決上述問題，本文使用了一種新的分布式環(huán)境下圖數(shù)據(jù)存儲結(jié)構(gòu)，在原有NEU-BSP系統(tǒng)的基礎上，開發(fā)了NEU-BSP+系統(tǒng)，提升了

3、整體計算性能。本文的主要貢獻如下：第一，對原系統(tǒng)進行了一系列的基礎優(yōu)化:用并行的任務調(diào)度代替原系統(tǒng)中的串行執(zhí)行、改進消息通信中的序列化方法等，使系統(tǒng)性能提升1倍，為進一步工作提供了方便;第二，類似PageRank和單源最短路徑的算法應用在原系統(tǒng)中會產(chǎn)生大量重復的消息，針對這個問題，本文提出了一種基于鄰接表垂直劃分的數(shù)據(jù)結(jié)構(gòu)，和在這種數(shù)據(jù)結(jié)構(gòu)之上的數(shù)據(jù)放置算法，并為用戶提供了新的計算模型:頂點-邊計算模型;第三，本文研究并實現(xiàn)了在頂點-邊

4、計算模型下PageRank算法和單元最短路徑算法的實現(xiàn)。
　　本文通過與原NEU-BSP系統(tǒng)對比實驗評價了NEU-BSP+系統(tǒng)的各方面性能:在數(shù)據(jù)加載時間增長不多的情況下，大大減少了任務間的通信量，使得應用在迭代計算中的平均超步時間加快25％-30％。同時與現(xiàn)有的可處理圖的系統(tǒng)Hadoop、Giraph、Hama多組數(shù)據(jù)上進行了整體性能對比，證明NEU-BSP+系統(tǒng)在各個系統(tǒng)中最快，其運行速度是Hadoop系統(tǒng)的3-7倍，Gira