基于冗余–互補(bǔ)散度及特征包絡(luò)前沿的數(shù)據(jù)驅(qū)動(dòng)特征選擇方法研究.pdf

1、隨著社會(huì)的不斷發(fā)展，數(shù)據(jù)的構(gòu)成呈現(xiàn)復(fù)雜化與高維化的趨勢，大數(shù)據(jù)降維研究中應(yīng)用廣泛的特征選擇算法已經(jīng)成為大數(shù)據(jù)和數(shù)據(jù)驅(qū)動(dòng)背景下社會(huì)經(jīng)濟(jì)決策和企業(yè)商務(wù)決策重要的研究方向。特征選擇方法中的參數(shù)選擇問題對所選特征質(zhì)量以及數(shù)據(jù)的再表達(dá)有著重要的影響。特征集合S=F1,…, Fk和類C的聯(lián)合互信息可以展開為不同維度（階）上特征與類的交互信息的和，于是，特征集合與類之間的聯(lián)合互信息可以表現(xiàn)為交互信息的展開形式。從Brown等(2012)的視角來看，參

2、數(shù)的確定問題也即選擇特征選擇方法的方法問題，但在這些經(jīng)典特征選擇方法中，存在先驗(yàn)性的參數(shù)選擇問題，例如MIFS中冗余性權(quán)重β等。因此，如何從彌補(bǔ)高階交互項(xiàng)缺失的視角來尋找合適的、非先驗(yàn)性的權(quán)重是特征選擇的一個(gè)重大問題。
　　給出了兩個(gè)如何解決特征選擇參數(shù)問題的框架。其一，從數(shù)據(jù)驅(qū)動(dòng)的視角，將參數(shù)的衍生視為對高階交互信息的省略所造成的偏差的修正。在給出了數(shù)據(jù)驅(qū)動(dòng)的基于互信息的特征評價(jià)框架的基礎(chǔ)上，深入分析了由高階信息缺失所帶來的冗余

3、–互補(bǔ)分散現(xiàn)象，在冗余–互補(bǔ)維度上引入高階信息驅(qū)動(dòng)的修正因子對低階冗余–互補(bǔ)項(xiàng)進(jìn)行修正（參數(shù)的確定），進(jìn)而對特征進(jìn)行準(zhǔn)確地評價(jià)與排序。
　　其二，結(jié)合特征選擇中多指標(biāo)評價(jià)及指標(biāo)權(quán)重的多樣性及其不同領(lǐng)域不同時(shí)段的偏向性，構(gòu)建了一種基于DEA的特征選擇框架，該框架充分利用了DEA框架的數(shù)據(jù)驅(qū)動(dòng)特性，使其在進(jìn)行特征評價(jià)和選擇時(shí)能夠充分考慮到特征間關(guān)系多樣性以及特征評價(jià)準(zhǔn)則多樣性特點(diǎn)，同時(shí)還能應(yīng)對不同數(shù)據(jù)環(huán)境所帶來的變化。
　　依據(jù)

4、第一個(gè)框架，從省略高階交互信息所造成的冗余–互補(bǔ)分散現(xiàn)象出發(fā)實(shí)現(xiàn)特征選擇參數(shù)的確定。對由高階信息缺失所帶來的冗余-互補(bǔ)分散現(xiàn)象進(jìn)行了深入探討，基于高階互信息在低階的“投影”視角，從高階互信息缺失在低階上的“投影”所造成的低階上特征間的冗余–互補(bǔ)分散現(xiàn)象進(jìn)行判斷，并據(jù)此進(jìn)行低階項(xiàng)參數(shù)的確定；進(jìn)而提出了基于冗余–互補(bǔ)散度的數(shù)據(jù)驅(qū)動(dòng)特征選擇方法（Redundancy-Complementariness Dispersion-based Fea

5、ture Selection method, RCDFS），該算法考慮到現(xiàn)有統(tǒng)計(jì)方法對高階項(xiàng)的估計(jì)存在不可預(yù)料的錯(cuò)誤，通過數(shù)據(jù)驅(qū)動(dòng)的方式為2階近似特征冗余–互補(bǔ)關(guān)系給出一個(gè)系數(shù)（權(quán)重），對該項(xiàng)因高階項(xiàng)缺失所帶來的偏差給予了恰當(dāng)?shù)膹浹a(bǔ)。
　　證明了采用“求平均”方法的特征評價(jià)準(zhǔn)則可以保證獲取高階冗余性和互補(bǔ)性的下界，為有效的數(shù)據(jù)驅(qū)動(dòng)特征評價(jià)準(zhǔn)則整合方法打下了基礎(chǔ)。鑒于不同背景所對應(yīng)的評價(jià)準(zhǔn)則及特征關(guān)聯(lián)偏向的“先驗(yàn)知識”蘊(yùn)藏于該背景下

6、的具體數(shù)據(jù)之中，于是根據(jù)給出的第二個(gè)框架，構(gòu)建了用于特征選擇的基于DEA的超效率特征評價(jià)模型。該模型可面向不同領(lǐng)域的具體數(shù)據(jù)，通過超效率DEA對這些評價(jià)準(zhǔn)則選擇合適的參數(shù)并構(gòu)造出相應(yīng)的超效率包絡(luò)前沿，進(jìn)而實(shí)現(xiàn)對特征的評價(jià)和排序。同時(shí)還給出了相應(yīng)的求解MCSD算法，討論了算法的復(fù)雜性。實(shí)驗(yàn)結(jié)果表明，所提MCSD算法所對應(yīng)的分類結(jié)果在絕大多數(shù)情況下顯著優(yōu)于IG、ReliefF、CMIM和JMI的結(jié)果。
　　快速發(fā)展的公路運(yùn)輸業(yè)帶來了交

7、通事故的持續(xù)增長。駕駛員的不良駕駛行為是一些重大交通事故的誘因，因此通過動(dòng)態(tài)監(jiān)控?cái)?shù)據(jù)進(jìn)行駕駛員異常駕駛行為的辨識與分析，特別是對于一些需要重點(diǎn)監(jiān)控的異常駕駛行為的識別與分析，意義十分重大。根據(jù)Wright等(2009)和Mo等(2014)的理論，任何一條新的車輛運(yùn)動(dòng)軌跡都可以近似的用訓(xùn)練車輛運(yùn)動(dòng)軌跡線性組合而成，因此，稀疏重構(gòu)技術(shù)可以被應(yīng)用于軌跡識別與行為分類中。考慮到大量冗余車輛軌跡特征的存在會(huì)對軌跡學(xué)習(xí)模型的準(zhǔn)確性造成嚴(yán)重的影響，同

8、時(shí)基于稀疏重構(gòu)軌跡學(xué)習(xí)模型在求解速率上的短板更是彰顯了特征選擇在建模和處理過程中的重要性。鑒于此，在?2-?p稀疏重構(gòu)方法的軌跡識別模型中嵌入了特征選擇方法，并采用前面所提出的數(shù)據(jù)驅(qū)動(dòng)特征選擇算法予以實(shí)現(xiàn)：提出了求解基于?p(0< p<1)范數(shù)的稀疏重構(gòu)系數(shù)向量的方法Orthogonal Matching Pursuit-quasi-Newton(OMPN)，該方法首先采用正交匹配貪婪算法（Orthogonal Matching Pur