面向主題的網(wǎng)絡(luò)爬行器相關(guān)技術(shù)研究.pdf

1、隨著互連網(wǎng)的迅猛發(fā)展，越來越豐富的信息展現(xiàn)在人們面前，但是面對海量的互聯(lián)網(wǎng)資源，人們感興趣的往往只是某一領(lǐng)域的專門信息。如何從紛繁蕪雜的網(wǎng)絡(luò)信息中快速準(zhǔn)確地找到人們希望的信息，是一個(gè)意義巨大的問題。1994年開始出現(xiàn)的基于Web的網(wǎng)絡(luò)爬行器自然而然地成為人們的希望所在，雖然通用網(wǎng)絡(luò)爬行器已經(jīng)給人們提供了極大的便利，但是由于它的綜合性，不具備面向?qū)I(yè)的特點(diǎn)，所以在準(zhǔn)確性和速度等方面存在不足；為了提高信息服務(wù)的質(zhì)量，人們開始研究面向主題的網(wǎng)

2、絡(luò)爬行器。
　　本文主要研究面向主題網(wǎng)絡(luò)爬行器的兩個(gè)方面的問題，一是如何充分定義這里的主題，二是如何有效的排序爬行器的待下載鏈接隊(duì)列中的鏈接，來使得只需訪問很少的不相關(guān)的頁面，就能夠得到很多的相關(guān)的頁面的鏈接。本文結(jié)合網(wǎng)頁的半結(jié)構(gòu)化信息特征，提出了一種新的基于內(nèi)容的爬行策略，實(shí)驗(yàn)結(jié)果顯示這是一種尋找主題相關(guān)頁面很有效的方法。
　　Blog作為一種新興的互聯(lián)網(wǎng)現(xiàn)象，正在被越來越多的人所關(guān)注，本文把Blog作為一種特殊的“主題”

3、，設(shè)計(jì)并實(shí)現(xiàn)了一個(gè)面向Blog的網(wǎng)絡(luò)爬行器。
　　隨著互聯(lián)網(wǎng)的爆炸性增長，Web已經(jīng)發(fā)展成為站點(diǎn)遍布全球的巨大信息服務(wù)網(wǎng)絡(luò)。就目前互聯(lián)網(wǎng)的規(guī)模來說，單機(jī)版的網(wǎng)絡(luò)爬行器已無法在一個(gè)有效的時(shí)間范圍內(nèi)完成一次搜集整個(gè)Web的任務(wù)。分布式網(wǎng)絡(luò)爬行器采用多機(jī)并行工作，提高整個(gè)系統(tǒng)的工作效率，并具有良好的可擴(kuò)展性，是必然的發(fā)展趨勢。
　　本文在分布式設(shè)計(jì)中，主要考慮了節(jié)點(diǎn)內(nèi)部多個(gè)線程的并行和節(jié)點(diǎn)之間的分布式并行。并重點(diǎn)討論了節(jié)點(diǎn)之間的分