信息過濾系統(tǒng)中特征選擇算法的研究.pdf

1、隨著Internet的迅速發(fā)展和日益普及，電子文本信息迅速膨脹，如何有效地組織和管理這些信息，并快速、準(zhǔn)確、全面地從中找到用戶所需要的信息就是當(dāng)前信息科學(xué)技術(shù)領(lǐng)域面臨的一大挑戰(zhàn)。網(wǎng)絡(luò)信息過濾技術(shù)作為處理和組織龐大的網(wǎng)絡(luò)信息的關(guān)鍵技術(shù)，可以在較大程度上解決信息雜亂的現(xiàn)象，方便用戶準(zhǔn)確地定位所需信息。目前，對于信息過濾技術(shù)的研究，大多數(shù)研究者的精力主要放在各種不同分類方法的研究與改進(jìn)上。然而，特征選擇一直是網(wǎng)絡(luò)信息過濾中的基礎(chǔ)性工作，而且是

2、一項(xiàng)瓶頸技術(shù)。因此，對特征選擇算法的研究也是十分必要的。 目前常用的特征選擇算法都直接利用了特征之間的條件獨(dú)立性假設(shè)，通過構(gòu)造一個(gè)評價(jià)函數(shù)，單獨(dú)對特征集的每個(gè)特征進(jìn)行評價(jià)，但是由于沒有直接考慮特征的類別相關(guān)性，也沒有考慮特征子集的冗余性，這些方法選擇的特征子集在類別區(qū)分能力上往往存在著冗余，導(dǎo)致最終分類效果不佳。 本文主要針對信息過濾系統(tǒng)中特征選擇算法的相關(guān)問題，在如下幾個(gè)方面進(jìn)行了研究和討論： 1、對常用的特征

3、選擇方法的優(yōu)點(diǎn)和缺點(diǎn)進(jìn)行了分析，并針對存在的不足之處指出了相應(yīng)的改進(jìn)方向。 本文首先對特征選擇技術(shù)做了綜合分析，并著重介紹了特征選擇技術(shù)的框架。目前常用的幾種特征選擇方法各有所長，亦各有所短，文中從計(jì)算復(fù)雜度和分類效果出發(fā)，分析了它們的優(yōu)缺點(diǎn)，并指出了可能導(dǎo)致的原因所在。另外，根據(jù)相關(guān)文獻(xiàn)資料，列舉出了常用特征選擇算法的對比實(shí)驗(yàn)結(jié)論。這與本文最后的實(shí)驗(yàn)結(jié)果大致相同。 2、從特征相關(guān)性和冗余性定義出發(fā)，提出了一種特征選擇框

4、架FSBC(feature selection based on correlation)，即把特征選擇過程分兩步進(jìn)行：第一步選取類別相關(guān)的特征子集；第二步通過冗余分析，去除候選特征子集中的冗余特征，最終獲得優(yōu)化特征子集。 首先，選取類別相關(guān)特征時(shí)，本文根據(jù)這樣一個(gè)原則構(gòu)造評價(jià)函數(shù)來選取特征項(xiàng)：如果一個(gè)特征項(xiàng)t在一個(gè)類別的文檔中頻繁出現(xiàn)，而在其它類別中很少出現(xiàn)的話，那么該特征項(xiàng)t能夠很好的代表這個(gè)類別，這樣的特征項(xiàng)應(yīng)該賦予較高的

5、權(quán)值，并選來作為該類別的特征詞，以區(qū)別于其它類別的文檔。另外，文中引入了TFIDF權(quán)重計(jì)算的思想，考慮將詞頻和文檔頻率結(jié)合起來共同作為評價(jià)特征項(xiàng)的依據(jù)。 其次，進(jìn)行冗余分析時(shí)，本文采用聚類方法中常用的K-Means算法作為去冗余的核心算法，針對該算法中的初始簇中心的選擇及初始簇個(gè)數(shù)的設(shè)置問題進(jìn)行了相應(yīng)的改進(jìn)，使類K-Means算法更有效的減少特征集的冗余性。 3、最后，將所提出的特征選擇策略在網(wǎng)絡(luò)信息過濾平臺上進(jìn)行了實(shí)驗(yàn)測試，并