版權說明:本文檔由用戶提供并上傳,收益歸屬內容提供方,若內容存在侵權,請進行舉報或認領
文檔簡介
1、本論文闡述了本人在百度公司分布式計算小組工作過程中做過的一個優(yōu)化HADOOP作業(yè)提交時間的項目。這個項目的重點在于優(yōu)化在作業(yè)提交時split過程占用的時間和消耗的內存,這是作業(yè)提交過程中最耗時的一步,也是作業(yè)提交前的所有準備工作中最重要的一步,因為它直接關系到輸入數(shù)據(jù)如何分片,即最終決定了這個作業(yè)具有的map任務數(shù)量,以及每一個map任務處理多少數(shù)據(jù)量,每個map任務優(yōu)先給哪一個節(jié)點的TaskTracker來處理。在百度公司以前的HAD
2、OOP版本,以及目前社區(qū)的HADOOP版本中,一直以來都沒有對split這個過程進行過的大的修改或者優(yōu)化,隨著百度公司的HADOOP集群規(guī)模的擴大,大作業(yè)數(shù)量的增加,單個作業(yè)需要輸入的數(shù)據(jù)量越來越大,文件數(shù)量也越來也多,從而導致在提交作業(yè)之前,對這些輸入數(shù)據(jù)進行split過程暴露出了內存占用大,耗時長的問題,這兩個問題已經嚴重影響到百度HADOOP集群對于大作業(yè)的處理效率,并引起了使用百度HADOOP集群的百度數(shù)據(jù)挖掘,日志分析等部門用
3、戶的不滿,因此,為了提高集群的處理效率,改善用戶體驗,必須要對split這一過程進行優(yōu)化。
本人獨立完成對split過程的優(yōu)化工作可以分為四個部分,分別是獲取blockLocations優(yōu)化,1s過程輸入路徑正則表達式中間匹配到文件的優(yōu)化,getSplits占用內存過高優(yōu)化和將getSplit過程移植到TaskTracker優(yōu)化。這四部分優(yōu)化分別加速了獲取blockLocation信息的速度,對于遍歷路徑操作在中間層匹配到文件
4、這種情況進行了加速優(yōu)化,對split內存優(yōu)化使得split整個過程中占用內存大幅下降,并且可以使內存占用不依賴作業(yè)的輸入數(shù)據(jù)量,而是依賴于用戶指定的參數(shù)。將整個split過程從客戶端移植到TaskTracker上可以釋放客戶端的壓力,并且利用同集群間網(wǎng)絡傳輸?shù)膬?yōu)勢來進一步節(jié)省split過程的耗時。
經過本人對split的優(yōu)化,這一項目已經成功上線了百度公司HADOOP集群,并且達到了非常理想的效果。大作業(yè)的提交時間從小時級縮短
溫馨提示
- 1. 本站所有資源如無特殊說明,都需要本地電腦安裝OFFICE2007和PDF閱讀器。圖紙軟件為CAD,CAXA,PROE,UG,SolidWorks等.壓縮文件請下載最新的WinRAR軟件解壓。
- 2. 本站的文檔不包含任何第三方提供的附件圖紙等,如果需要附件,請聯(lián)系上傳者。文件的所有權益歸上傳用戶所有。
- 3. 本站RAR壓縮包中若帶圖紙,網(wǎng)頁內容里面會有圖紙預覽,若沒有圖紙預覽就沒有圖紙。
- 4. 未經權益所有人同意不得將文件中的內容挪作商業(yè)或盈利用途。
- 5. 眾賞文庫僅提供信息存儲空間,僅對用戶上傳內容的表現(xiàn)方式做保護處理,對用戶上傳分享的文檔內容本身不做任何修改或編輯,并不能對任何下載內容負責。
- 6. 下載文件中如有侵權或不適當內容,請與我們聯(lián)系,我們立即糾正。
- 7. 本站不保證下載資源的準確性、安全性和完整性, 同時也不承擔用戶因使用這些下載資源對自己和他人造成任何形式的傷害或損失。
最新文檔
- Hadoop集群性能優(yōu)化研究.pdf
- Hadoop作業(yè)調度算法分析與優(yōu)化.pdf
- Hadoop平臺性能優(yōu)化的研究與實現(xiàn).pdf
- Hadoop I-O性能優(yōu)化與研究.pdf
- 基于Hadoop平臺的作業(yè)調度算法優(yōu)化研究.pdf
- Hadoop平臺的MapReduce模型性能優(yōu)化研究.pdf
- Hadoop集群系統(tǒng)性能優(yōu)化的研究.pdf
- 大數(shù)據(jù)環(huán)境下Hadoop性能優(yōu)化的研究.pdf
- 基于Hadoop的MapReduce的性能分析與優(yōu)化.pdf
- Hadoop作業(yè)調度本地性的研究與優(yōu)化.pdf
- 基于Hadoop的車聯(lián)網(wǎng)作業(yè)調度優(yōu)化問題研究.pdf
- 基于Hadoop作業(yè)內計算任務調度優(yōu)化的研究.pdf
- 基于MLFQ的Hadoop作業(yè)調度算法研究與優(yōu)化.pdf
- 基于調度器的Hadoop性能優(yōu)化方法研究.pdf
- 大數(shù)據(jù)環(huán)境下Hadoop平臺性能優(yōu)化研究.pdf
- 基于Hadoop的海量小文件存儲性能優(yōu)化研究.pdf
- 異構Hadoop平臺性能分析及其調度算法優(yōu)化研究.pdf
- 性能優(yōu)化實踐
- Hadoop集群實時性能監(jiān)控及I-O性能優(yōu)化研究.pdf
- 外文翻譯--對于hadoop處理小文件的性能優(yōu)化
評論
0/150
提交評論