基于知識(shí)型數(shù)據(jù)的監(jiān)督學(xué)習(xí).pdf

1、本文研究基于知識(shí)型數(shù)據(jù)的學(xué)習(xí)問題。傳統(tǒng)機(jī)器學(xué)習(xí)問題主要依賴于帶標(biāo)注的訓(xùn)練樣本來完成建模與預(yù)測(cè)。但是一個(gè)公認(rèn)的問題是標(biāo)注數(shù)據(jù)是非常費(fèi)時(shí)與費(fèi)力的，已經(jīng)成為機(jī)器學(xué)習(xí)繼續(xù)發(fā)展的一個(gè)很大的瓶頸。機(jī)器學(xué)習(xí)的一個(gè)很重要的應(yīng)用就是網(wǎng)頁(yè)，文本數(shù)據(jù)的分類。為了能夠?qū)W(wǎng)頁(yè)數(shù)據(jù)進(jìn)行高質(zhì)量的分類，需要大量的文本訓(xùn)練集。本文注意到一個(gè)新的趨勢(shì)，就是隨著互聯(lián)網(wǎng)的飛速發(fā)展和廣泛應(yīng)用，越來越多的服務(wù)和應(yīng)用出現(xiàn)在互聯(lián)網(wǎng)上。這些數(shù)據(jù)不僅僅是平面的文本數(shù)據(jù)，同時(shí)帶有類標(biāo)，結(jié)構(gòu)

2、等等格外的信息。考慮到任何人都可以很容易的得到大量的互聯(lián)網(wǎng)數(shù)據(jù)，本文解決的的問題是，通過互聯(lián)網(wǎng)知識(shí)對(duì)機(jī)器學(xué)習(xí)的過程進(jìn)行監(jiān)督，從而減少機(jī)器學(xué)習(xí)算法，特別是文本分類算法對(duì)人工標(biāo)注數(shù)據(jù)的依賴。 為了達(dá)到這樣的目的，本文從兩個(gè)角度來解決問題。第一是設(shè)計(jì)知識(shí)型數(shù)據(jù)的獲取算法，第二是設(shè)計(jì)知識(shí)型數(shù)據(jù)進(jìn)行監(jiān)督學(xué)習(xí)的算法。 對(duì)于知識(shí)型數(shù)據(jù)獲取的研究算法，本文研究如何將平面的，沒有任何額外信息的網(wǎng)頁(yè)數(shù)據(jù)進(jìn)行自動(dòng)標(biāo)注，從而使得其成為知識(shí)型數(shù)據(jù)。

3、本文的研究思路是依照網(wǎng)絡(luò)上大量存在的層次結(jié)構(gòu)，對(duì)網(wǎng)頁(yè)數(shù)據(jù)進(jìn)行自動(dòng)分類。研究的難點(diǎn)是，待選擇的類的數(shù)量非常龐大，傳統(tǒng)的機(jī)器學(xué)習(xí)和分類算法無法取得很好的效果。與此同時(shí)，基于知識(shí)型的算法要求很高的效率，對(duì)于算法的設(shè)計(jì)有很大的限制。本文在這方面取得了一定的突破。本文注意到樸素貝葉斯分類器具有速度快，易實(shí)現(xiàn)，通用性強(qiáng)等在當(dāng)前問題中非常需要的特性。雖然傳統(tǒng)樸素貝葉斯分類器的效果非常差，通過深入挖掘樸素貝葉斯分類器在大規(guī)模類空間的特性，找到了樸素貝葉

4、斯分類器存在的兩個(gè)嚴(yán)重問題，通過修正這些問題，使得樸素貝葉斯分類器的效果得到了大幅度的提升。從而能夠提供可靠的知識(shí)型數(shù)據(jù)。 對(duì)于設(shè)計(jì)知識(shí)型數(shù)據(jù)進(jìn)行監(jiān)督學(xué)習(xí)的算法，本文研究如何利用帶有類標(biāo)信息的知識(shí)型數(shù)據(jù)，來取代文檔分類中的訓(xùn)練集，達(dá)到相當(dāng)于有訓(xùn)練集的學(xué)習(xí)效果。研究的難點(diǎn)是互聯(lián)網(wǎng)知識(shí)型數(shù)據(jù)涵蓋大量的語義信息，而待分類的文本的語義信息比較集中。為了克服這樣一個(gè)差距，本文設(shè)計(jì)了一個(gè)兩階段風(fēng)險(xiǎn)最優(yōu)化算法。在第一階段中，該算法生成對(duì)于待分