中文網(wǎng)頁查重方法研究.pdf

1、當今中國，隨著互聯(lián)網(wǎng)的普及和網(wǎng)絡終端的高速發(fā)展，網(wǎng)絡已經(jīng)深入到了人們生活的方方面面。面對海量的網(wǎng)絡信息，搜索引擎的出現(xiàn)極大的方便了普通用戶的操作，但大量的重復或近似網(wǎng)頁使得用戶對搜索結(jié)果不甚滿意。如何有效的查找并去除這些重復或近似的網(wǎng)頁，提高搜索的效率，已經(jīng)成為一種迫切的需要。在這種形勢下，網(wǎng)頁查重技術得到了極大發(fā)展。
　　 當前的查重方法主要是針對英文等字母體系的語言，中文由于語言的復雜性，在網(wǎng)頁的查重問題上存在著較大的困難。

2、本文主要研究搜索引擎中中文網(wǎng)頁查重的問題，借鑒了計算生物學的序列比對技術，提出了一種基于詞性標注(POS)和最長公共子序列(LCS)相結(jié)合的網(wǎng)頁查重方法。論文主要工作如下：
　　 (1)介紹了網(wǎng)頁查重技術的起源以及常見的網(wǎng)頁查重方法，并對其特點進行了對比分析，理清了論文研究的方向和思路。
　　 (2)對網(wǎng)頁預處理技術進行了研究，重點對網(wǎng)頁正文提取技術和中文語言體系進行了分析，并對中文分詞和詞性標注方法進行仔細比較。著重對

3、基于隱馬爾可夫模型的分詞和詞性標注進行了認真學習和研究，為選擇合適的分詞和詞性標注方法奠定了基礎。
　　 (3)闡述了計算生物學領域的序列比對技術的思想，對序列比對算法(特別是動態(tài)規(guī)劃算法)進行了認真研究，最終決定把LCS的動態(tài)規(guī)劃算法作為研究使用的網(wǎng)頁相似度計算方法。
　　 (4)對基于Lucene建立全文搜索平臺的流程和方法進行了認真學習，將ICTCLAS內(nèi)嵌到Lucene的分詞模塊中，搭建了基于Lucene和JSP