2023年全國碩士研究生考試考研英語一試題真題(含答案詳解+作文范文)_第1頁
已閱讀1頁,還剩65頁未讀, 繼續(xù)免費(fèi)閱讀

下載本文檔

版權(quán)說明:本文檔由用戶提供并上傳,收益歸屬內(nèi)容提供方,若內(nèi)容存在侵權(quán),請(qǐng)進(jìn)行舉報(bào)或認(rèn)領(lǐng)

文檔簡(jiǎn)介

1、書面漢語自動(dòng)分詞是中文信息處理中的重要步驟,它是文本校對(duì)、機(jī)器翻譯、文本分類、文本檢索、計(jì)算機(jī)人機(jī)接口等諸多中文信息應(yīng)用領(lǐng)域的基礎(chǔ)。目前漢語自動(dòng)分詞方法主要包括基于字符串匹配的方法、基于統(tǒng)計(jì)的方法和基于理解的方法。本文在深入分析現(xiàn)有自動(dòng)分詞算法的基礎(chǔ)上,著重研究了基于字符串匹配的漢語自動(dòng)分詞算法,引入最大匹配法預(yù)處理分詞,同時(shí)運(yùn)用統(tǒng)計(jì)方法進(jìn)行歧義切分和未登錄詞識(shí)別。 根據(jù)漢語中二字詞較多的特點(diǎn),給出一種改進(jìn)的自動(dòng)分詞詞典機(jī)制,該

2、機(jī)制在詞典數(shù)據(jù)結(jié)構(gòu)中增加二字詞檢測(cè)位圖表。在此基礎(chǔ)上,對(duì)最大匹配分詞算法進(jìn)行改進(jìn),實(shí)現(xiàn)了一種基于二字詞檢測(cè)位圖表的最大匹配分詞算法,本算法利用二字詞檢測(cè)位圖表快速判斷二字詞,減少詞典匹配次數(shù),以提高自動(dòng)分詞速度。針對(duì)偽歧義型高頻最大交集型歧義字段在大型語料庫中表現(xiàn)出較強(qiáng)的穩(wěn)定性和一定的覆蓋能力,歧義處理著重于研究該類歧義字段的自動(dòng)獲取,將它們的正確切分形式記錄到歧義庫中,其歧義消解通過直接查表實(shí)現(xiàn),這在本質(zhì)上是一種基于記憶的策略。未登錄

3、詞識(shí)別技術(shù)研究著眼于Web資源中未登錄詞的獲取,并提出一種基于Web查詢?nèi)罩镜奈吹卿浽~識(shí)別算法,本算法分析Web查詢?nèi)罩镜乃阉麝P(guān)鍵字頻度表識(shí)別未登錄詞。 基于上述研究結(jié)果,設(shè)計(jì)并實(shí)現(xiàn)了一個(gè)面向?qū)嶋H應(yīng)用的書面漢語自動(dòng)分詞系統(tǒng)。實(shí)驗(yàn)結(jié)果表明:在相同條件下,基于二字詞檢測(cè)位圖表的最大匹配分詞算法較原算法分詞速度更快。利用卡耐基梅隆大學(xué)分詞評(píng)估系統(tǒng)進(jìn)行評(píng)測(cè),評(píng)測(cè)結(jié)果表明,基于二字詞檢測(cè)位圖表的最大匹配分詞算法的查準(zhǔn)率提高了3.57%,F(xiàn)

溫馨提示

  • 1. 本站所有資源如無特殊說明,都需要本地電腦安裝OFFICE2007和PDF閱讀器。圖紙軟件為CAD,CAXA,PROE,UG,SolidWorks等.壓縮文件請(qǐng)下載最新的WinRAR軟件解壓。
  • 2. 本站的文檔不包含任何第三方提供的附件圖紙等,如果需要附件,請(qǐng)聯(lián)系上傳者。文件的所有權(quán)益歸上傳用戶所有。
  • 3. 本站RAR壓縮包中若帶圖紙,網(wǎng)頁內(nèi)容里面會(huì)有圖紙預(yù)覽,若沒有圖紙預(yù)覽就沒有圖紙。
  • 4. 未經(jīng)權(quán)益所有人同意不得將文件中的內(nèi)容挪作商業(yè)或盈利用途。
  • 5. 眾賞文庫僅提供信息存儲(chǔ)空間,僅對(duì)用戶上傳內(nèi)容的表現(xiàn)方式做保護(hù)處理,對(duì)用戶上傳分享的文檔內(nèi)容本身不做任何修改或編輯,并不能對(duì)任何下載內(nèi)容負(fù)責(zé)。
  • 6. 下載文件中如有侵權(quán)或不適當(dāng)內(nèi)容,請(qǐng)與我們聯(lián)系,我們立即糾正。
  • 7. 本站不保證下載資源的準(zhǔn)確性、安全性和完整性, 同時(shí)也不承擔(dān)用戶因使用這些下載資源對(duì)自己和他人造成任何形式的傷害或損失。

評(píng)論

0/150

提交評(píng)論