基于數(shù)據(jù)包絡(luò)分析的特征選擇方法及應(yīng)用研究.pdf

1、大數(shù)據(jù)爆炸式的增長對數(shù)據(jù)挖掘帶來了空前的挑戰(zhàn)，需要獲取并分析的樣本的范圍有了普遍的擴展，新的數(shù)據(jù)類型的出現(xiàn)成了十分常見的現(xiàn)象。各類計算機和互聯(lián)網(wǎng)在世界范圍的廣泛領(lǐng)域中的應(yīng)用，導(dǎo)致了數(shù)量非常巨大、結(jié)構(gòu)異常復(fù)雜的各類數(shù)據(jù)的出現(xiàn)。特征選擇通過棄去無關(guān)的、冗余的、噪聲性的特征而降低數(shù)據(jù)的維度，從而起到了非常有意義的作用：降低了數(shù)據(jù)采集與數(shù)據(jù)加工的成本；推動與加速了改進算法精確性的學(xué)習(xí)型算法的研究；導(dǎo)致了更加具有可理解性的模型的構(gòu)建.因此，對特征

2、選擇的深入研究是非常重要的。
　　分析了通過內(nèi)部距離或類間距離及最大化互信息等工具而形成了一些有效的特征選擇啟發(fā)式算法，指出了那些算法的啟發(fā)式排序通常僅僅依據(jù)類相關(guān)性的度量，因而它們在高維度數(shù)據(jù)集上的運行總是相當(dāng)不理想；論述了特征冗余的存在及其在特征選擇問題上的重要性，以及近來由此而出現(xiàn)的一系列新的啟發(fā)式算法在高相關(guān)性與低冗余性進行權(quán)衡的要點。鑒于更多的方法、原則、參數(shù)有效整合的思考，我們提出了可以把特征選擇歸類于一個多指標評價過

3、程。
　　數(shù)據(jù)包絡(luò)分析（DEA）是一種有效進行決策單元評估的非參數(shù)方法，在許多領(lǐng)域有著十分廣泛的應(yīng)用，它采用線性規(guī)劃的方法并將決策單元的生產(chǎn)過程表達成一個多輸入、多輸出的黑箱結(jié)構(gòu)，我們通過一種全新的視角去看待DEA，將其實體性的決策單元泛化，使DEA效率評價方法與特征選擇能夠有效地整合，并將DEA對多指標系統(tǒng)的有效評估功能應(yīng)用于特征選擇。
　　構(gòu)建了一種基于超效率 DEA的特征排序框架。在此基礎(chǔ)上，給出了速度快、效果好的集成

4、DEA和條件獨立性測度的DEAFS特征排序算法。與現(xiàn)有特征選擇方法比較，DEAFS的獨特之處在于：對每個特征進行條件獨立性測試時，將所有其它特征均作為了條件變量。此外，DEAFS還采用了超效率 DEA模型根據(jù)條件獨立性測試結(jié)果對特征進行排序。
　　考慮到 DEAFS在條件獨立性測試時對于參與條件變量特征規(guī)模的敏感性，提出了一種基于超效率 DEA和類獨立策略的迭代前向搜索特征選擇算法 DEA-CS。該算法將類標簽視為一個獨立的類而對

5、其與特征間的相關(guān)性及條件獨立性進行測試，并基于超效率 DEA模型對特征進行迭代排序。DEA-CS雖折中了速度，但有更好的精確度。對這些算法，我們還給出了和計算復(fù)雜度分析和分類實驗驗證。在一批著名的UCI數(shù)據(jù)集上，我們將所給出的兩種算法與一批著名且常用的經(jīng)典特征選擇算法在實驗中進行了比較，并給出了實驗結(jié)果，表明了所提算法的明顯優(yōu)勢。
　　最后，以用戶在線評論及在線評論的有用性預(yù)測為實際背景，設(shè)計了一個基于IP池和并行技術(shù)的大規(guī)模在線