帶彈性網(wǎng)的稀疏主成分分析.pdf

1、主成分分析是一種流行的降維和數(shù)據(jù)預(yù)測的方法。作為一種非指導(dǎo)性學(xué)習(xí)方法，主成分分析應(yīng)用相當(dāng)廣泛，例如在手寫編碼分類及人的臉譜識(shí)別方面。最近，主成分分析又被應(yīng)用于有關(guān)基因表示的數(shù)據(jù)分析方面。Hastie 等人提出了一種所謂基因刨削的方法，這種方法主要是利用主成分分析使高維變量及相關(guān)聯(lián)的基因集中在一起。 主成分分析之所以能夠成功，主要在于如下兩方面的特點(diǎn)：一方面，各主成分依次達(dá)到最大的方差，因此允許最小的信息丟失；另一個(gè)方面，各主成分

2、之間互不相關(guān)，所以我們可以單獨(dú)考慮其中某一主成分而不考慮其他主成分。 我們認(rèn)為主成分分析不僅能夠有效地降低維數(shù)，還應(yīng)當(dāng)能夠減少顯然有用變量的多少。曾有一種特別的方法可以作到這一點(diǎn)，它是通過人工的方法將一個(gè)接近與零的一個(gè)正數(shù)來約束載荷的絕對(duì)值。Jolliffe 介紹了一種新的SCoTLASS 方法來獲得修正的主成分。 回想在多元線性回歸中提到的便于解釋模型的問題，那里的響應(yīng)變量是由預(yù)測因子的線性組合預(yù)測的。為了便于解釋的模