基于HDFS的華圖在線文庫系統(tǒng)數(shù)據(jù)存儲與管理研究.pdf_第1頁
已閱讀1頁,還剩63頁未讀, 繼續(xù)免費閱讀

下載本文檔

版權說明:本文檔由用戶提供并上傳,收益歸屬內(nèi)容提供方,若內(nèi)容存在侵權,請進行舉報或認領

文檔簡介

1、作為用戶共享信息的平臺,文庫系統(tǒng)為用戶帶來了效率和方便,然而,隨著用戶數(shù)據(jù)的增長,使用量的加大,文庫資源的形式和種類也越來越多,成指數(shù)倍增長的海量數(shù)據(jù)資源給存儲系統(tǒng)帶來了難題,如何高效存儲和管理這些數(shù)據(jù)成為急待解決的問題。
  云存儲技術的出現(xiàn),使高效存儲和管理這些海量數(shù)據(jù)成為可能。本文選取了當前非常流行的云平臺Hadoop做為在線文庫系統(tǒng)的存儲平臺,利用Hadoop下的云存儲文件系統(tǒng)HDFS存儲和管理在線文庫系統(tǒng)的文檔文件。HD

2、FS只是為了解決一般性的數(shù)據(jù)存儲和管理難題,簡單將其應用于在線文庫系統(tǒng)不能投入實際的應用,必須作必要的改進。在線文庫系統(tǒng)的文檔資料一般為word、pdf、 txt之類的文本文件,這些類型的文件都比較小,90%以上的文檔大小在32KB到20MB之間。HDFS的元數(shù)據(jù)信息是存儲在元數(shù)據(jù)節(jié)點的內(nèi)存中,因此在存儲海量的小文件時,會導致HDFS元數(shù)據(jù)節(jié)點(NameNode)內(nèi)存的過量消耗,進而降低整個HDFS系統(tǒng)的存儲容量,因此本文提出了一種將小

溫馨提示

  • 1. 本站所有資源如無特殊說明,都需要本地電腦安裝OFFICE2007和PDF閱讀器。圖紙軟件為CAD,CAXA,PROE,UG,SolidWorks等.壓縮文件請下載最新的WinRAR軟件解壓。
  • 2. 本站的文檔不包含任何第三方提供的附件圖紙等,如果需要附件,請聯(lián)系上傳者。文件的所有權益歸上傳用戶所有。
  • 3. 本站RAR壓縮包中若帶圖紙,網(wǎng)頁內(nèi)容里面會有圖紙預覽,若沒有圖紙預覽就沒有圖紙。
  • 4. 未經(jīng)權益所有人同意不得將文件中的內(nèi)容挪作商業(yè)或盈利用途。
  • 5. 眾賞文庫僅提供信息存儲空間,僅對用戶上傳內(nèi)容的表現(xiàn)方式做保護處理,對用戶上傳分享的文檔內(nèi)容本身不做任何修改或編輯,并不能對任何下載內(nèi)容負責。
  • 6. 下載文件中如有侵權或不適當內(nèi)容,請與我們聯(lián)系,我們立即糾正。
  • 7. 本站不保證下載資源的準確性、安全性和完整性, 同時也不承擔用戶因使用這些下載資源對自己和他人造成任何形式的傷害或損失。

評論

0/150

提交評論