版權(quán)說明:本文檔由用戶提供并上傳,收益歸屬內(nèi)容提供方,若內(nèi)容存在侵權(quán),請進(jìn)行舉報(bào)或認(rèn)領(lǐng)
文檔簡介
1、隨著網(wǎng)絡(luò)上信息的爆炸式增長,普通搜索引擎的查詢結(jié)果越來越不能滿足用戶查詢的需要,尤其是那些查詢特定信息的不同領(lǐng)域、不同背景的用戶,因此適應(yīng)特定主題和個性化搜索的垂直搜索引擎應(yīng)運(yùn)而生。
主題爬蟲作為垂直搜索引擎的核心組成部分,其抓取的網(wǎng)頁的質(zhì)量好壞直接影響垂直搜索引擎的返回結(jié)果。如何判斷下載的網(wǎng)頁與目標(biāo)主題的相關(guān)度和如何確定待爬行隊(duì)列中URL的訪問優(yōu)先級是主題爬蟲中影響抓取的網(wǎng)頁質(zhì)量的關(guān)鍵因素;同時由于Web頁面的結(jié)構(gòu)特性,致使
2、主題爬蟲在爬行過程中存在“隧道”現(xiàn)象,它的存在將會對爬行的覆蓋率和準(zhǔn)確率造成較大的影響。
本文利用網(wǎng)頁分塊判斷主題相關(guān)度和最佳優(yōu)先搜索策略的優(yōu)勢,同時為了克服“隧道”現(xiàn)象,提出了一種基于網(wǎng)頁分塊的主題爬蟲方法:
①將分類器的思想應(yīng)用到主題爬蟲中,訓(xùn)練出了針對主題爬蟲的類中心向量分類器,該分類器主要用于確定網(wǎng)頁或網(wǎng)頁塊的主題類別和它們之間的相似度,其突出的優(yōu)點(diǎn)是可以較好的描述用戶感興趣的主題,分類速度快,能提高爬行的速
3、度;
?、谠诰W(wǎng)頁塊內(nèi)考慮URL的差異,將塊內(nèi)的URL分為特殊URL和普通URL進(jìn)行訪問優(yōu)先級預(yù)測,從而提高預(yù)測的準(zhǔn)確性,克服由于預(yù)測不準(zhǔn)確帶來的相關(guān)網(wǎng)頁被忽略的問題;
③通過在網(wǎng)頁塊內(nèi)引用類間轉(zhuǎn)移概率,克服爬行過程中存在的“黑色隧道”現(xiàn)象,通過利用網(wǎng)頁分塊的思想,克服爬行過程中存在的“灰色隧道”現(xiàn)象。
最后從DMOZ目錄中選取3種不同的目標(biāo)主題對基于本文提出的方法和已存在的基于文字內(nèi)容的方法及基于分類器的方法
溫馨提示
- 1. 本站所有資源如無特殊說明,都需要本地電腦安裝OFFICE2007和PDF閱讀器。圖紙軟件為CAD,CAXA,PROE,UG,SolidWorks等.壓縮文件請下載最新的WinRAR軟件解壓。
- 2. 本站的文檔不包含任何第三方提供的附件圖紙等,如果需要附件,請聯(lián)系上傳者。文件的所有權(quán)益歸上傳用戶所有。
- 3. 本站RAR壓縮包中若帶圖紙,網(wǎng)頁內(nèi)容里面會有圖紙預(yù)覽,若沒有圖紙預(yù)覽就沒有圖紙。
- 4. 未經(jīng)權(quán)益所有人同意不得將文件中的內(nèi)容挪作商業(yè)或盈利用途。
- 5. 眾賞文庫僅提供信息存儲空間,僅對用戶上傳內(nèi)容的表現(xiàn)方式做保護(hù)處理,對用戶上傳分享的文檔內(nèi)容本身不做任何修改或編輯,并不能對任何下載內(nèi)容負(fù)責(zé)。
- 6. 下載文件中如有侵權(quán)或不適當(dāng)內(nèi)容,請與我們聯(lián)系,我們立即糾正。
- 7. 本站不保證下載資源的準(zhǔn)確性、安全性和完整性, 同時也不承擔(dān)用戶因使用這些下載資源對自己和他人造成任何形式的傷害或損失。
最新文檔
- 基于網(wǎng)頁分塊的論壇爬蟲關(guān)鍵技術(shù)研究.pdf
- 基于主題的微博網(wǎng)頁爬蟲研究
- 基于主題的微博網(wǎng)頁爬蟲研究.pdf
- 基于網(wǎng)頁內(nèi)容和鏈接的主題爬蟲研究與實(shí)現(xiàn).pdf
- 基于URL及上下文的并行分塊處理主題爬蟲研究.pdf
- 基于網(wǎng)頁分塊的主題搜索引擎的研究與實(shí)現(xiàn).pdf
- 基于本體概念相似度的主題爬蟲中網(wǎng)頁排序模型研究.pdf
- 面向主題爬行的在線網(wǎng)頁分塊研究與應(yīng)用.pdf
- 基于鏈接的主題爬蟲研究.pdf
- 面向刑偵網(wǎng)頁的信息抽取與主題爬蟲應(yīng)用研究.pdf
- 基于網(wǎng)頁更新頻率預(yù)測的增量爬蟲研究.pdf
- 基于查詢擴(kuò)展的主題爬蟲研究.pdf
- 基于網(wǎng)頁分塊的Web信息抽取技術(shù)研究.pdf
- 動態(tài)網(wǎng)頁的爬蟲構(gòu)建和信息抽取方法研究.pdf
- 基于規(guī)則引擎的個性化網(wǎng)頁爬蟲研究.pdf
- 基于平面圖的網(wǎng)頁分塊算法的研究.pdf
- 基于網(wǎng)頁分塊的Web信息抽取的研究與應(yīng)用.pdf
- 基于分塊的新聞網(wǎng)頁信息抽取算法研究.pdf
- 基于主題與語義的作弊網(wǎng)頁檢測方法研究.pdf
- 基于SVM分類算法的主題爬蟲研究.pdf
評論
0/150
提交評論