近鄰法與多視角學(xué)習(xí)的理論與算法研究.pdf

1、本文分別對(duì)近鄰法、多視角學(xué)習(xí)以及組合學(xué)習(xí)進(jìn)行了相關(guān)的理論和算法的研究，并對(duì)它們分別進(jìn)行了改進(jìn)。
　　 在實(shí)際應(yīng)用中，近鄰法是一種應(yīng)用廣泛而且簡(jiǎn)單有效的方法。但傳統(tǒng)的近鄰法仍有其不足之處，它在預(yù)測(cè)過(guò)程中沒(méi)有完全利用近鄰的全部信息。針對(duì)其這一缺點(diǎn)，本文對(duì)近鄰法進(jìn)行了改進(jìn)。在新的近鄰法中，用于預(yù)測(cè)樣本標(biāo)簽的距離不再是查詢(xún)點(diǎn)與近鄰訓(xùn)練樣本的直接距離，而是查詢(xún)點(diǎn)與其近鄰們的“重心”之間的距離。這里的“重心”指的就是能夠體現(xiàn)近鄰分布信息的近

2、鄰的“形心”。這樣以來(lái)，在預(yù)測(cè)過(guò)程當(dāng)中不但標(biāo)簽信息得到運(yùn)用，分布信息也被考慮在內(nèi)。在文章當(dāng)中，我們對(duì)這個(gè)方法進(jìn)行了詳細(xì)的描述和分析。另外，在實(shí)驗(yàn)中我們?cè)?2個(gè)公共數(shù)據(jù)集上分別采用馬氏距離和歐式距離的度量方式進(jìn)行了實(shí)驗(yàn)。實(shí)驗(yàn)證明，形心近鄰法能夠提高傳統(tǒng)近鄰法的分類(lèi)精度。
　　 多視角學(xué)習(xí)是近年來(lái)機(jī)器學(xué)習(xí)領(lǐng)域的一個(gè)熱門(mén)的研究方向。多視角學(xué)習(xí)方法利用事物的兩個(gè)獨(dú)立或不相關(guān)的視角以特定的訓(xùn)練方式來(lái)進(jìn)行學(xué)習(xí)。許多理論和實(shí)驗(yàn)都能證明多視角學(xué)

3、習(xí)能夠大大提高學(xué)習(xí)的效果。同時(shí)，一些研究人員證明采用多學(xué)習(xí)機(jī)的組合學(xué)習(xí)也能夠提高學(xué)習(xí)的效果。但尚未有人將多視角學(xué)習(xí)與組合學(xué)習(xí)相結(jié)合來(lái)解決模式識(shí)別領(lǐng)域內(nèi)的學(xué)習(xí)問(wèn)題。本文依此對(duì)多視角學(xué)習(xí)與組合學(xué)習(xí)的結(jié)合做了一些相關(guān)研究。并提出了多視角多學(xué)習(xí)機(jī)的學(xué)習(xí)方法，并將其應(yīng)用到半監(jiān)督學(xué)習(xí)和主動(dòng)學(xué)習(xí)領(lǐng)域。與此同時(shí)，本文也提出了一種稱(chēng)為模糊度的度量方法來(lái)計(jì)算視角之間對(duì)樣本預(yù)測(cè)的分歧程度。從實(shí)驗(yàn)結(jié)果來(lái)看，這種方法是一種非常有效的方法。
　　 在多視角

4、學(xué)習(xí)的領(lǐng)域內(nèi)，有一個(gè)瓶頸的問(wèn)題。多視角學(xué)習(xí)雖然可以很有效的提高學(xué)習(xí)效果，但是并不是所有問(wèn)題都有多個(gè)內(nèi)在的視角，這就意味著單視角問(wèn)題是不能夠用多視角學(xué)習(xí)方法來(lái)解決的。這就大大限制了多視角學(xué)習(xí)方法的應(yīng)用范圍。針對(duì)這個(gè)問(wèn)題，本文提出了一種為單視角問(wèn)題創(chuàng)建額外視角的方法。該方法利用PCA方法去產(chǎn)生原問(wèn)題的另一個(gè)視角。另外，針對(duì)高維問(wèn)題和非高維問(wèn)題，文章也提出了不同的創(chuàng)建多視角策略。該方法在多個(gè)標(biāo)準(zhǔn)數(shù)據(jù)集上進(jìn)行了實(shí)驗(yàn)，實(shí)驗(yàn)結(jié)果表明該方法所創(chuàng)建的視

5、角是有用的，而且能夠幫助學(xué)習(xí)方法提高學(xué)習(xí)效果。
　　 集成學(xué)習(xí)是將多個(gè)分類(lèi)器以某種組合方式組合在一起進(jìn)行學(xué)習(xí)。在傳統(tǒng)的集成學(xué)習(xí)中，分類(lèi)器的產(chǎn)生大都是并行的。也就意味著，參與集成的分類(lèi)器數(shù)量越多，訓(xùn)練分類(lèi)器的時(shí)間就越長(zhǎng)。針對(duì)集成學(xué)習(xí)的這一缺點(diǎn)，本文提出了一種演化的集成學(xué)習(xí)方法。在該方法中，分類(lèi)器不是以并行的方式產(chǎn)生的，而是以演化的形式產(chǎn)生的。在文章當(dāng)中，詳細(xì)地?cái)⑹隽诉@種方法的過(guò)程和假設(shè)條件，并且將其推廣到多視角的演化集成學(xué)習(xí)方法。