基于最優(yōu)給分的稀疏無監(jiān)督學(xué)習(xí)算法研究.pdf

1、主元分析作為一種多元統(tǒng)計(jì)分析方法，廣泛應(yīng)用于數(shù)據(jù)處理和簡(jiǎn)化中。這種方法試圖通過對(duì)數(shù)據(jù)協(xié)方差矩陣進(jìn)行對(duì)角化，從而找到數(shù)據(jù)中最主要的元素和結(jié)構(gòu)，去除噪音和冗余，對(duì)原數(shù)據(jù)進(jìn)行簡(jiǎn)化處理。然而，在多元線性分析方法中，當(dāng)求解因變量對(duì)自變量的回歸時(shí)，得到的組合系數(shù)往往均不為零，因此這種回歸模型的主要缺點(diǎn)是缺乏可解釋性。主元分析中的主元作為從數(shù)據(jù)中提取出來的主要信息，是所有自變量的線性組合，因此也存在這樣的缺點(diǎn)。Tibshirani在1996年提出的l

2、asso方法，通過對(duì)回歸系數(shù)加上e1范式約束，使得其中的某些系數(shù)自動(dòng)退化為零，在提高了回歸精度的同時(shí)也產(chǎn)生了可解釋的模型。Zou等人在此基礎(chǔ)之上，于2005年提出了elastic net的方法，對(duì)回歸系數(shù)同時(shí)加上e1和e2范式約束，解決了lasso方法中不能解p＞n類型的數(shù)據(jù)等其他缺點(diǎn)。Jolliffe等人將對(duì)回歸系數(shù)的約束延伸到主元分析中，各自提出了得到稀疏負(fù)荷系數(shù)的方法。這些方法主要思想都是在回歸模型或特征值分解中，對(duì)負(fù)荷系數(shù)加上e

3、1和(或)e2范式約束。本文從另一個(gè)角度，借鑒Zhang在09年提出的最優(yōu)給分無監(jiān)督學(xué)習(xí)框架的基礎(chǔ)上，提出SPCA—OS稀疏主元分析方法，實(shí)驗(yàn)結(jié)果表明，和其他稀疏方法相比，在累計(jì)方差大致相同的情況下，SPCA—OS負(fù)荷系數(shù)更加稀疏。另外本文還提出了與主元分析相對(duì)應(yīng)的稀疏主坐標(biāo)分析(SPCO)，這種方法在降維的同時(shí)直接對(duì)降維坐標(biāo)進(jìn)行稀疏，區(qū)別于負(fù)荷系數(shù)的稀疏。實(shí)驗(yàn)結(jié)果表明，SPCO能夠有效對(duì)降維坐標(biāo)進(jìn)行稀疏，并能解決如基因微陣列p＞＞n情