版權(quán)說(shuō)明:本文檔由用戶(hù)提供并上傳,收益歸屬內(nèi)容提供方,若內(nèi)容存在侵權(quán),請(qǐng)進(jìn)行舉報(bào)或認(rèn)領(lǐng)
文檔簡(jiǎn)介
1、隨著互聯(lián)網(wǎng)的飛速發(fā)展,傳統(tǒng)的存儲(chǔ)方法已經(jīng)無(wú)法滿(mǎn)足當(dāng)前海量數(shù)據(jù)的存取需求,海量數(shù)據(jù)的存儲(chǔ)和處理成為當(dāng)下研究的一個(gè)新課題。分布式計(jì)算平臺(tái)Hadoop由于具有高可靠、易擴(kuò)展、高容錯(cuò)性等特點(diǎn),已經(jīng)廣泛的運(yùn)用在云計(jì)算領(lǐng)域。
由于 Hadoop是以流式數(shù)據(jù)訪(fǎng)問(wèn)模式來(lái)處理文件,也可以說(shuō)是為了存儲(chǔ)大文件而設(shè)計(jì)的。因此,Hadoop在處理大文件時(shí)性能表現(xiàn)優(yōu)異,而在處理小文件時(shí)會(huì)出現(xiàn)存儲(chǔ)效率低的問(wèn)題。針對(duì)此問(wèn)題,本文分析了前人做的一些研究和改進(jìn)方
2、案,通過(guò)研究其他的方案,找出其中優(yōu)缺點(diǎn),并在此基礎(chǔ)上做了相應(yīng)的改進(jìn)。本文的設(shè)計(jì)方案是在原分布式文件系統(tǒng)基礎(chǔ)上添加一個(gè)獨(dú)立的小文件處理模塊,通過(guò)小文件處理模塊對(duì)小文件進(jìn)行合并,建立文件的索引,以及通過(guò)文件緩存預(yù)取后傳送到HDFS中進(jìn)行數(shù)據(jù)的處理。該架構(gòu)使得 HDFS系統(tǒng)在處理小文件的同時(shí)不影響對(duì)大文件或者對(duì)已合并小文件的寫(xiě)入或讀取,從而提高系統(tǒng)的存儲(chǔ)訪(fǎng)問(wèn)效率。
本文的小文件合并和索引方案是在HAR的基礎(chǔ)上改進(jìn)的。通過(guò)創(chuàng)建小文件的
3、時(shí)間段對(duì)合并文件命名。此外根據(jù)小文件名稱(chēng)以及擴(kuò)展名建立小文件到具體數(shù)據(jù)塊以及數(shù)據(jù)塊內(nèi)地址信息的Trie樹(shù)索引,并根據(jù)相應(yīng)的擴(kuò)展名對(duì)所對(duì)應(yīng)的索引進(jìn)行分片,從而建立兩級(jí)索引機(jī)制,放置在小文件處理模塊中以加快系統(tǒng)中小文件的檢索性能。文件的預(yù)取是通過(guò)文件的元數(shù)據(jù)和索引信息以及文件的預(yù)取記錄在小文件處理模塊的緩存池里進(jìn)行索引預(yù)取與相關(guān)文件的預(yù)取。論文給出了該優(yōu)化方案在Hadoop集群的具體實(shí)現(xiàn),包括小文件合并MapReduce自定義輸入分片、兩級(jí)
溫馨提示
- 1. 本站所有資源如無(wú)特殊說(shuō)明,都需要本地電腦安裝OFFICE2007和PDF閱讀器。圖紙軟件為CAD,CAXA,PROE,UG,SolidWorks等.壓縮文件請(qǐng)下載最新的WinRAR軟件解壓。
- 2. 本站的文檔不包含任何第三方提供的附件圖紙等,如果需要附件,請(qǐng)聯(lián)系上傳者。文件的所有權(quán)益歸上傳用戶(hù)所有。
- 3. 本站RAR壓縮包中若帶圖紙,網(wǎng)頁(yè)內(nèi)容里面會(huì)有圖紙預(yù)覽,若沒(méi)有圖紙預(yù)覽就沒(méi)有圖紙。
- 4. 未經(jīng)權(quán)益所有人同意不得將文件中的內(nèi)容挪作商業(yè)或盈利用途。
- 5. 眾賞文庫(kù)僅提供信息存儲(chǔ)空間,僅對(duì)用戶(hù)上傳內(nèi)容的表現(xiàn)方式做保護(hù)處理,對(duì)用戶(hù)上傳分享的文檔內(nèi)容本身不做任何修改或編輯,并不能對(duì)任何下載內(nèi)容負(fù)責(zé)。
- 6. 下載文件中如有侵權(quán)或不適當(dāng)內(nèi)容,請(qǐng)與我們聯(lián)系,我們立即糾正。
- 7. 本站不保證下載資源的準(zhǔn)確性、安全性和完整性, 同時(shí)也不承擔(dān)用戶(hù)因使用這些下載資源對(duì)自己和他人造成任何形式的傷害或損失。
最新文檔
- Hadoop小文件處理技術(shù)的研究與優(yōu)化.pdf
- Hadoop小文件處理技術(shù)的研究和實(shí)現(xiàn).pdf
- hadoop小文件處理技術(shù)的研究和實(shí)現(xiàn)
- Hadoop小文件處理方法的研究與實(shí)現(xiàn).pdf
- 外文翻譯--對(duì)于hadoop處理小文件的性能優(yōu)化
- 外文翻譯--對(duì)于hadoop處理小文件的性能優(yōu)化
- Hadoop海量小文件處理技術(shù)的應(yīng)用研究.pdf
- 基于Hadoop的海量小文件處理技術(shù)研究.pdf
- 基于Hadoop的海量小文件處理性能研究與優(yōu)化.pdf
- Hadoop集群下海量小文件優(yōu)化處理.pdf
- 外文翻譯(中文)--對(duì)于hadoop處理小文件的性能優(yōu)化
- 外文翻譯(中文)--對(duì)于Hadoop處理小文件的性能優(yōu)化.docx
- Hadoop平臺(tái)下的海量小文件處理研究.pdf
- 外文翻譯(中文)--對(duì)于Hadoop處理小文件的性能優(yōu)化.docx
- 基于Hadoop的海量小文件存儲(chǔ)性能優(yōu)化研究.pdf
- 基于Hadoop的海量統(tǒng)計(jì)小文件存儲(chǔ)優(yōu)化研究.pdf
- Hadoop小文件存儲(chǔ)管理的研究與實(shí)現(xiàn).pdf
- 62131.基于hadoop的海量教育資源中小文件的存儲(chǔ)研究與實(shí)現(xiàn)
- 基于HDFS的小文件處理與副本策略?xún)?yōu)化研究.pdf
- 小文件處理及算法并行化在Hadoop上的設(shè)計(jì)與實(shí)現(xiàn).pdf
評(píng)論
0/150
提交評(píng)論