交互Lasso模型及改進(jìn)ADMM算法研究.pdf

1、隨著大數(shù)據(jù)時(shí)代的到來(lái)，很多領(lǐng)域存在“維數(shù)災(zāi)難”問(wèn)題。為了從高維數(shù)據(jù)中獲取有用信息，特征選擇已經(jīng)成為眾多學(xué)者的首選。然而傳統(tǒng)特征選擇方法依賴(lài)高維數(shù)據(jù)的原始特征，很少考慮特征間的交互。因此本文基于特征交互思想，將其加入回歸模型特征提取與分類(lèi)，并在模型上添加分層約束來(lái)對(duì)主效應(yīng)和交互特征建模。而后對(duì)其添加罰函數(shù)，以達(dá)到收縮模型系數(shù)，得到主校應(yīng)和交互系數(shù)的稀疏解，增強(qiáng)模型穩(wěn)定性，提高模型效率的目的。
　　首先，本文介紹了弱分層交互logis

2、tic模型，并基于一般迭代收縮和閾值優(yōu)化框架應(yīng)用鄰近算子算法求解模型，然后應(yīng)用性質(zhì)簡(jiǎn)化模型算法。并在模擬數(shù)據(jù)和真實(shí)數(shù)據(jù)中進(jìn)行試驗(yàn)。實(shí)驗(yàn)結(jié)果證明本文應(yīng)用的方法具有可解釋性、分類(lèi)性能高和運(yùn)行時(shí)間低的特點(diǎn)。
　　其次，本文考慮擬合回歸模型的任務(wù)，涉及到潛在的大集合的協(xié)變量之間的交互，在此期間希望產(chǎn)生強(qiáng)分層。作者采用一個(gè)非常普遍的框架，稱(chēng)之為FAMILY。它可以轉(zhuǎn)化為一個(gè)凸優(yōu)化問(wèn)題的解，本文對(duì)于強(qiáng)分層交互線(xiàn)性lasso，使用改進(jìn)的交替方向

3、乘子法算法求得模型參數(shù)。該算法保證收斂到全局最優(yōu)，可以很容易的專(zhuān)攻任何感興趣的凸罰函數(shù)，并允許簡(jiǎn)單的擴(kuò)展到廣義線(xiàn)性模型和高階模型的建立。作者在模擬數(shù)據(jù)、臭氧數(shù)據(jù)和天氣數(shù)據(jù)上進(jìn)行試驗(yàn)。結(jié)果表明廣義強(qiáng)分層線(xiàn)性交互能獲得更好的預(yù)測(cè)性能。
　　最后，作者研究了廣義強(qiáng)分層交互logistic回歸分類(lèi)。首先定義了廣義強(qiáng)分層交互logistic模型定義，然后給出了改進(jìn)交替方向乘子法求解方法。文章最后基于肝炎數(shù)據(jù)和帕金森數(shù)據(jù)進(jìn)行兩組實(shí)驗(yàn)。實(shí)驗(yàn)結(jié)果