基于條件隨機(jī)場(chǎng)模型的半監(jiān)督漢語(yǔ)韻律短語(yǔ)預(yù)測(cè)的研究與實(shí)現(xiàn).pdf

1、隨著當(dāng)今社會(huì)的快速發(fā)展,語(yǔ)音合成技術(shù)已經(jīng)滲透到了社會(huì)生活中的各個(gè)方面。為了使合成語(yǔ)音的自然度能夠進(jìn)一步提高,本文研究了在語(yǔ)音合成技術(shù)中占據(jù)重要地位的韻律結(jié)構(gòu)預(yù)測(cè)問(wèn)題。
　　 在漢語(yǔ)韻律結(jié)構(gòu)的研究中的一大難點(diǎn)是對(duì)漢語(yǔ)韻律短語(yǔ)的預(yù)測(cè)問(wèn)題。本文在綜合考察了目前應(yīng)用在漢語(yǔ)韻律短語(yǔ)預(yù)測(cè)任務(wù)中的幾種機(jī)器學(xué)習(xí)方法后,提出了一種基于條件隨機(jī)場(chǎng)模型的漢語(yǔ)韻律短語(yǔ)邊界預(yù)測(cè)方法；同時(shí),為了減少標(biāo)注訓(xùn)練語(yǔ)料庫(kù)所需要的大量時(shí)間和人力,本文引入了一種應(yīng)用于

2、條件隨機(jī)場(chǎng)模型的半監(jiān)督學(xué)習(xí)方法,并實(shí)現(xiàn)了一個(gè)全自動(dòng)的漢語(yǔ)韻律短語(yǔ)邊界預(yù)測(cè)的原型系統(tǒng)。
　　 當(dāng)前,在漢語(yǔ)韻律短語(yǔ)邊界的預(yù)測(cè)任務(wù)中,使用最廣泛的是隱馬爾科夫模型和最大熵馬爾科夫模型。本文采用的條件隨機(jī)場(chǎng)模型(Conditional RandomFields,CRFs)結(jié)合了隱馬爾科夫模型和最大熵馬爾科夫模型的優(yōu)點(diǎn),同時(shí)CRFs還可以克服隱馬爾科夫模型中的嚴(yán)格獨(dú)立假設(shè)以及最大熵馬爾科夫模型中的標(biāo)注偏置問(wèn)題。目前,CRFs已被應(yīng)用于一

3、些自然語(yǔ)言處理任務(wù)中,如:詞性標(biāo)注、中文命名體識(shí)別等。本文對(duì)條件隨機(jī)場(chǎng)模型和最大熵馬爾科夫模型進(jìn)行了實(shí)驗(yàn)比較,得出的結(jié)論是,在使用相同特征模板的情況下,條件隨機(jī)場(chǎng)模型更適合于漢語(yǔ)韻律短語(yǔ)邊界的預(yù)測(cè)。
　　 傳統(tǒng)的機(jī)器學(xué)習(xí)方法都是在大規(guī)模訓(xùn)練數(shù)據(jù)集的基礎(chǔ)上進(jìn)行訓(xùn)練的,而對(duì)訓(xùn)練集進(jìn)行人工標(biāo)注需要花費(fèi)大量的時(shí)間以及人力,目前可直接使用于漢語(yǔ)語(yǔ)音合成中的資源又非常有限。因此,本文基于半監(jiān)督學(xué)習(xí)的思想,引入了一種可以應(yīng)用于條件隨機(jī)場(chǎng)模型的

4、半監(jiān)督學(xué)習(xí)方法,將該方法應(yīng)用于漢語(yǔ)韻律短語(yǔ)邊界的預(yù)測(cè)任務(wù)中,并且最終實(shí)現(xiàn)了一個(gè)全自動(dòng)的漢語(yǔ)韻律短語(yǔ)邊界預(yù)測(cè)系統(tǒng)原型。本系統(tǒng)可使用少量的已標(biāo)注數(shù)據(jù)和大量的未標(biāo)注數(shù)據(jù)進(jìn)行訓(xùn)練,首先對(duì)已標(biāo)注數(shù)據(jù)進(jìn)行訓(xùn)練,利用訓(xùn)練所得的模型對(duì)未標(biāo)注數(shù)據(jù)進(jìn)行預(yù)測(cè),從預(yù)測(cè)結(jié)果中挑選出一部分有效數(shù)據(jù)加入訓(xùn)練集,然后進(jìn)行下一輪訓(xùn)練,如此不斷迭代下去,直到最終訓(xùn)練出用戶滿意的模型。多組實(shí)驗(yàn)表明應(yīng)用該方法可以有效提高模型在同等規(guī)模訓(xùn)練集上訓(xùn)練得到的預(yù)測(cè)準(zhǔn)確率,從而達(dá)到在大