已閱讀1頁，還剩61頁未讀， 繼續(xù)免費閱讀
版權說明：本文檔由用戶提供并上傳，收益歸屬內容提供方，若內容存在侵權，請進行舉報或認領
文檔簡介
1、在數(shù)字媒體技術高速發(fā)展的今天,網(wǎng)絡上的各類視頻教程已經(jīng)成為網(wǎng)民在Internet上學習新技術、新知識的一個重要途徑,這也促使視頻教程庫的建設越來越受到人們的關注和重視。由于傳統(tǒng)的視頻教程庫往往采用人工建立和維護,在資源庫的數(shù)據(jù)量龐大之后,數(shù)據(jù)的更新和維護就顯得極為困難。因此構建一個能夠進行自動更新和自動維護的視頻教程資源庫成為目前研究與開發(fā)的熱點。
本文首先從網(wǎng)絡爬蟲的研究現(xiàn)狀出發(fā),介紹了主題爬蟲的工作原理,分析了主題爬蟲的搜
2、索策略及其相關算法,并對網(wǎng)頁消重進行相關介紹。
本文通過選擇 heritrix作為爬蟲工具,研究 Heritrix爬蟲的相關技術,定制Heritrix中的extractor類以及FrontierScheduler類,以實現(xiàn)面向視頻教程主題網(wǎng)頁信息的抓取。為了提高抓取的準確率,本文在實現(xiàn)抓取的過程中引入 ELFHASH-x1 URL散列算法,使抓取過程采用多線程方式進行,以提高抓取的效率。
對下載到本地的網(wǎng)頁資源,本文
溫馨提示
- 1. 本站所有資源如無特殊說明，都需要本地電腦安裝OFFICE2007和PDF閱讀器。圖紙軟件為CAD,CAXA,PROE,UG,SolidWorks等.壓縮文件請下載最新的WinRAR軟件解壓。
- 2. 本站的文檔不包含任何第三方提供的附件圖紙等，如果需要附件，請聯(lián)系上傳者。文件的所有權益歸上傳用戶所有。
- 3. 本站RAR壓縮包中若帶圖紙，網(wǎng)頁內容里面會有圖紙預覽，若沒有圖紙預覽就沒有圖紙。
- 4. 未經(jīng)權益所有人同意不得將文件中的內容挪作商業(yè)或盈利用途。
- 5. 眾賞文庫僅提供信息存儲空間，僅對用戶上傳內容的表現(xiàn)方式做保護處理，對用戶上傳分享的文檔內容本身不做任何修改或編輯，并不能對任何下載內容負責。
- 6. 下載文件中如有侵權或不適當內容，請與我們聯(lián)系，我們立即糾正。
- 7. 本站不保證下載資源的準確性、安全性和完整性, 同時也不承擔用戶因使用這些下載資源對自己和他人造成任何形式的傷害或損失。
評論
0/150
提交評論