深度網(wǎng)絡(luò)信息爬取關(guān)鍵技術(shù)研究與實(shí)現(xiàn).pdf

1、隨著互聯(lián)網(wǎng)的不斷發(fā)展，網(wǎng)絡(luò)中的信息量呈現(xiàn)幾何級(jí)的爆炸式增長。我們根據(jù)網(wǎng)絡(luò)信息的獲取方式不同可以把互聯(lián)網(wǎng)分為淺層網(wǎng)絡(luò)與深度網(wǎng)絡(luò)二部分。淺層網(wǎng)絡(luò)通過網(wǎng)頁中的超鏈接即可以爬取。深度網(wǎng)絡(luò)中的信息隱藏在網(wǎng)頁搜索框背后，用戶必須以向網(wǎng)頁表單提交查詢?cè)~的形式才能獲取信息。
　　 由于深度網(wǎng)絡(luò)明顯區(qū)別于淺層網(wǎng)絡(luò)的信息獲取方式，使得傳統(tǒng)的基于超鏈接的網(wǎng)絡(luò)爬蟲無法爬取并索引深度網(wǎng)絡(luò)中的信息。隨著深度網(wǎng)絡(luò)中的數(shù)據(jù)規(guī)模及質(zhì)量不斷提高，獲取其中信息對(duì)于搜

2、索引擎來說意義重大。
　　 本文提出一種基于最優(yōu)查詢?cè)~的深度網(wǎng)絡(luò)爬蟲。我們的方法解決了現(xiàn)有深度網(wǎng)絡(luò)信息爬取中自動(dòng)化程度低，適用領(lǐng)域窄的問題。本文設(shè)計(jì)的深度網(wǎng)絡(luò)爬取系統(tǒng)包含三個(gè)核心算法：深度網(wǎng)絡(luò)入口的智能識(shí)別方法，通過統(tǒng)計(jì)學(xué)習(xí)大量的表單網(wǎng)頁控件、文本環(huán)境、網(wǎng)站深度特征，實(shí)現(xiàn)深度網(wǎng)絡(luò)入口智能識(shí)別；最優(yōu)查詢種子集生成算法，提出了將含有表單的網(wǎng)頁劃分為表單控件空間與網(wǎng)絡(luò)文本空間二個(gè)子空間，并在此劃分的基礎(chǔ)上對(duì)表單網(wǎng)頁進(jìn)行聚類，獲得最優(yōu)查