典型關(guān)聯(lián)分析

1、典型關(guān)聯(lián)分析（典型關(guān)聯(lián)分析（CanonicalCanonicalCrelationCrelationAnalysisAnalysis）[pdf[pdf版本版本]典型相關(guān)分析典型相關(guān)分析.pdf.pdf1.1.問(wèn)題問(wèn)題在線性回歸中，我們使用直線來(lái)擬合樣本點(diǎn)，尋找n維特征向量X和輸出結(jié)果（或者叫做label）Y之間的線性關(guān)系。其中，。然而當(dāng)Y也是多維時(shí)，或者說(shuō)Y也有多個(gè)特征時(shí)，我們希望分析出X和Y的關(guān)系。當(dāng)然我們?nèi)匀豢梢允褂没貧w的方法來(lái)分析

2、，做法如下：假設(shè)，，那么可以建立等式Y(jié)=AX如下其中，形式和線性回歸一樣，需要訓(xùn)練m次得到m個(gè)。這樣做的一個(gè)缺點(diǎn)是，Y中的每個(gè)特征都與X的所有特征關(guān)聯(lián)，Y中的特征之間沒(méi)有什么聯(lián)系。我們想換一種思路來(lái)看這個(gè)問(wèn)題，如果將X和Y都看成整體，考察這兩個(gè)整體之間的關(guān)系。我們將整體表示成X和Y各自特征間的線性組合，也就是考察和之間的關(guān)系。這樣的應(yīng)用其實(shí)很多，舉個(gè)簡(jiǎn)單的例子。我們想考察一個(gè)人解題能力X（解題速度，解題正確率）與他她的閱讀能力Y（閱讀速

3、度，理解程度）之間的關(guān)系，那么形式化為：和然后使用Pearson相關(guān)系數(shù)來(lái)度量u和v的關(guān)系，我們期望尋求一組最優(yōu)的解a和b，使得Cr(uv)最大，這樣得到的a和b就是使得u和v就有最大關(guān)聯(lián)的權(quán)重。到這里，基本上介紹了典型相關(guān)分析的目的。2.2.CCACCA表示與求解表示與求解橫軸是u，縱軸是v，這里我們期望通過(guò)調(diào)整a和b使得u和v的關(guān)系越像最后一個(gè)圖越好。其實(shí)第一個(gè)圖和最后一個(gè)圖有聯(lián)系的，我們可以調(diào)整a和b的符號(hào)，使得從第一個(gè)圖變?yōu)樽詈?/p>