語義角色標(biāo)注中的關(guān)鍵技術(shù)研究——多任務(wù)學(xué)習(xí)方法在組塊分析中的應(yīng)用.pdf

1、在自然語言處理過程中，語義分析是一個(gè)不可或缺的階段。通過語義角色標(biāo)注，我們可以獲取淺層語義信息。所謂淺層語義信息，是與概念深層語義相對(duì)而言的。語義角色標(biāo)注是語法與語義的接口。
　　 語義角色標(biāo)注任務(wù)需要對(duì)語料進(jìn)行一些預(yù)處理操作，包括：分詞、詞性標(biāo)注、組塊分析。其中，組塊分析與深層語義信息直接相關(guān)，對(duì)于語義分析的質(zhì)量也起著至關(guān)重要的作用，已引起研究者的廣泛關(guān)注。
　　 傳統(tǒng)的組塊分析系統(tǒng)大多采用單任務(wù)學(xué)習(xí)（Single—t

2、ask Learning）模式下的統(tǒng)計(jì)方法，如Conditional Random Files模型，Support VectorMachine模型，Maximum Entropy Markov模型。它們雖然取得取得了不錯(cuò)的性能，但是我們并不知道哪種模型對(duì)于組塊分析任務(wù)是最佳的模型，哪種特征或特征組合是最為有效的。
　　 多任務(wù)學(xué)習(xí)（Multi—task Learning，MTL）方法能夠在一定程度上解決此問題。多任務(wù)學(xué)習(xí)以并行的

3、方式學(xué)習(xí)多個(gè)輔助任務(wù)，并用一個(gè)共享的結(jié)構(gòu)來刻畫這些任務(wù)間的共享信息，以此來提升目標(biāo)任務(wù)的性能。
　　 交互結(jié)構(gòu)優(yōu)化（Alternating Structure OptimizatioN,ASO）算法是最近提出一種線性多任務(wù)學(xué)習(xí)方法。它的有效性在半監(jiān)督和監(jiān)督模式下都得到了驗(yàn)證，我們?cè)贑hinese Tree：Bank2.0數(shù)據(jù)集上的實(shí)驗(yàn)證明它對(duì)于中文數(shù)據(jù)集同樣有效。但是之前這些方法都需要引入大量的外部數(shù)據(jù)來獲得性能的提升。因此，能