主成分分析在stata中的實(shí)現(xiàn)以及理論介紹

1、第十二章 第十二章 主成分分析 主成分分析主成分分分析也稱作主分量分析，是霍特林(Hotelling)在 1933 年首先提 出。主成分分析是利用降維的思想，在損失較少信息的前提下把多個(gè)指標(biāo)轉(zhuǎn)化 為較少的綜合指標(biāo)。轉(zhuǎn)化生成的綜合指標(biāo)即稱為主成分，其中每個(gè)主成分都是原始變量的線性組合，且各個(gè)主成分互不相關(guān)。Stata 對主成分分析的主要內(nèi) 容包括：主成分估計(jì)、主成分分析的恰當(dāng)性（包括負(fù)偏協(xié)方差矩陣和負(fù)偏相關(guān)系數(shù)矩陣、KMO(Kaiser-

2、Meyer-Olkin)抽樣充分性、復(fù)相關(guān)系數(shù)、共同度等指標(biāo)測度） 、主成分的旋轉(zhuǎn)、預(yù)測、各種檢驗(yàn)、碎石圖、得分圖、載荷圖等。p j n i b a y ij j i ij , , 2 , 1 , , 2 , 1 , ' ? ? ? ? ? ? ?主成分的模型表達(dá)式為：p pj ii i idiagv vv v ip V V C? ? ? ? ? ??? ? ? ? ?? ??? ? ? ? ?? ? 2 1 2 1 ), ,

3、, , (01其中，a 稱為得分，b 稱為載荷。主成分分析主要的分析方法是對相關(guān)系數(shù)矩陣（或協(xié)方差矩陣）進(jìn)行特征值分析。Stata 中可以通過負(fù)偏相關(guān)系數(shù)矩陣、負(fù)相關(guān)系數(shù)平方和 KMO 值對主成分分析的恰當(dāng)性進(jìn)行分析。負(fù)偏相關(guān)系數(shù)矩陣即變量之間兩兩偏相關(guān)系數(shù)的負(fù)數(shù)。非對角線元素則為負(fù)的偏相關(guān)系數(shù)。如果變量之間存在較強(qiáng)的共性，則偏相關(guān)系數(shù)比較低。因此，如果矩陣中偏相關(guān)系數(shù)較高的個(gè)數(shù)比較多，說明某一些變量與另外一些變量的相關(guān)性比較低，主成分

4、模型可能不適用。這時(shí)，主成 分分析不能得到很好的數(shù)據(jù)約化效果。Kaiser-Meyer-Olkin 抽樣充分性測度也是用于測量變量之間相關(guān)關(guān)系的強(qiáng)弱的重要指標(biāo)，是通過比較兩個(gè)變量的相關(guān)系數(shù)與偏相關(guān)系數(shù)得到的。KMO 介于 0 于 1 之間。KMO 越高，表明變量的共性越強(qiáng)。如果偏相關(guān)系數(shù)相對于相關(guān)系數(shù)比較高，則 KMO 比較低，主成分分析不能起到很好的數(shù)據(jù)約化效果。根據(jù) Kaiser（1974） ，一般的判斷標(biāo)準(zhǔn)如下：0.00-0.49

5、,不能接受（unacceptable）;0.50-0.59,非常差（miserable） ；0.60-0.69，勉強(qiáng)接受 （mediocre） ；0.70-0.79,可以接受（middling） ；0.80-0.89，比較好 （meritorious） ；0.90-1.00,非常好（marvelous） 。SMC 即一個(gè)變量與其他所有變量的復(fù)相關(guān)系數(shù)的平方，也就是復(fù)回歸方程 的可決系數(shù)。SMC 比較高表明變量的線性關(guān)系越強(qiáng)，共性越強(qiáng)，主

6、成分分析就越合適。成分載荷、KMO、SMC 等指標(biāo)都可以通過 extat 命令進(jìn)行分析。 多元方差分析是方差分析在多元中的擴(kuò)展，即模型含有多個(gè)響應(yīng)變量。本章介紹多元（協(xié)）方差分析以及霍特林（Hotelling)均值向量 T 檢驗(yàn)。12.1 12.1 主成分估計(jì) 主成分估計(jì)Stata 可以通過變量進(jìn)行主成分分析，也可以直接通過相關(guān)系數(shù)矩陣或協(xié)方差矩陣進(jìn)行。（1）sysuse auto,clearpca trunk weight lengt

7、h headroompca trunk weight length headroom, comp(2) covariance12.5 12.5 得分圖、載荷圖 得分圖、載荷圖得分圖即不同主成分得分的散點(diǎn)圖。命令為 scoreplot。webuse bg2,clearpca bg2cost*, vce(normal)scoreplot-4 -2 0 2 4Scores for component 2-6 -4 -2 0 2 4Scores

8、 for component 1Score variables (pca)載荷圖即不同主成分載荷的散點(diǎn)圖。命令為 loadingplot。webuse bg2,clearpca bg2cost*, vce(normal)loadingplotbg2cost1bg2cost2bg2cost3bg2cost4bg2cost5bg2cost6.3 .4 .5 .6Component 2-.4 -.2 0 .2 .4 .6Component 1