信息檢索中遷移Markov網(wǎng)絡(luò)模型的研究.pdf

1、Web信息的快速增長，給信息檢索系統(tǒng)帶來了巨大挑戰(zhàn)。傳統(tǒng)的檢索模型需要在一個(gè)相對(duì)固定的數(shù)據(jù)集上通過訓(xùn)練得到，不具備開放的學(xué)習(xí)功能，而Web上的信息是實(shí)時(shí)更新的，檢索模型由于無法對(duì)新的數(shù)據(jù)進(jìn)行學(xué)習(xí)，檢索性能必將隨著Web信息的更新而逐漸下降，現(xiàn)有的解決辦法之一是將新數(shù)據(jù)加入到原有的數(shù)據(jù)集中對(duì)模型重新進(jìn)行訓(xùn)練，由于模型對(duì)原有數(shù)據(jù)集學(xué)習(xí)所獲得的知識(shí)并沒有被保留，這勢(shì)必浪費(fèi)大量的時(shí)間進(jìn)行重復(fù)學(xué)習(xí)；另一種方法則是在新數(shù)據(jù)集上對(duì)模型進(jìn)行訓(xùn)練，若新的

2、數(shù)據(jù)集數(shù)據(jù)量不夠則會(huì)影響模型的學(xué)習(xí)效果。因而，如何使得檢索模型能較好學(xué)習(xí)新的數(shù)據(jù)并實(shí)現(xiàn)在目標(biāo)數(shù)據(jù)集上的準(zhǔn)確檢索，成為了信息檢索模型研究的熱點(diǎn)之一。 本文中我們將檢索模型在發(fā)生變化的數(shù)據(jù)上的訓(xùn)練可以看作是一個(gè)學(xué)習(xí)遷移的過程，檢索模型在原有數(shù)據(jù)集上的訓(xùn)練勢(shì)必對(duì)其在新數(shù)據(jù)上的學(xué)習(xí)有所影響，即在原有數(shù)據(jù)集上建立模型中所獲得的知識(shí)對(duì)該模型在新數(shù)據(jù)上的訓(xùn)練有所幫助，從而減少由于數(shù)據(jù)發(fā)生改變而導(dǎo)致模型需要重新進(jìn)行學(xué)習(xí)所耗費(fèi)的時(shí)間。 因

3、此，為解決上述問題，我們結(jié)合遷移學(xué)習(xí)理論和Markov網(wǎng)絡(luò)理論，提出了一種新的方法，思想是遷移Markov網(wǎng)絡(luò)用于實(shí)現(xiàn)檢索模型的學(xué)習(xí)，通過獲取先驗(yàn)知識(shí)，實(shí)現(xiàn)在目標(biāo)數(shù)據(jù)集上高效檢索目的。具體的思路是：首先建立一個(gè)數(shù)據(jù)集上的初始檢索模型，其次，衡量用于建模的先驗(yàn)數(shù)據(jù)集和目標(biāo)數(shù)據(jù)集中數(shù)據(jù)分布的差異性，在本文中我們使用Kullback-Leibler divergence（KL偏離度）的測(cè)量公式來度量這一分布的不同。且所得的KL偏離值也可用于確

4、定檢索公式中的平衡參數(shù)（也就是確定遷移先驗(yàn)數(shù)據(jù)中知識(shí)的“量”），然后，通過遷移舊數(shù)據(jù)集上的先驗(yàn)知識(shí)到目標(biāo)數(shù)據(jù)集上，我們對(duì)基于Markov網(wǎng)絡(luò)的檢索模型進(jìn)行修正，并在目標(biāo)數(shù)據(jù)集上進(jìn)行檢索。這樣就可以將以將以往被摒棄的先驗(yàn)數(shù)據(jù)通過有效的遷移學(xué)習(xí)利用到目標(biāo)數(shù)據(jù)集的學(xué)習(xí)中，使檢索模型能夠快速學(xué)習(xí)并實(shí)現(xiàn)目標(biāo)文檔的高效檢索。多組實(shí)驗(yàn)結(jié)果驗(yàn)證了我們的新方法在性能上要優(yōu)于BM25算法，T-檢驗(yàn)的結(jié)果也顯示模型的性能提高水平是顯著的。 本文的工作

5、和創(chuàng)新點(diǎn)在于： 1．首次將遷移學(xué)習(xí)理論用于信息檢索領(lǐng)域，將知識(shí)的遷移和有指導(dǎo)的遷移學(xué)習(xí)等思想成功應(yīng)用在基于Markov網(wǎng)絡(luò)的信息檢索模型中，從構(gòu)造的Markov網(wǎng)絡(luò)中成功地學(xué)習(xí)先驗(yàn)數(shù)據(jù)。 2．本文通過遷移先驗(yàn)數(shù)據(jù)集的知識(shí)，并利用部分新數(shù)據(jù)集，來修正所提出的檢索模型，并最終實(shí)現(xiàn)基于Markov網(wǎng)絡(luò)的檢索模型能在新的數(shù)據(jù)集上的高效檢索。這樣可以大大減少重新建立一個(gè)適用于新數(shù)據(jù)集的檢索模型所耗費(fèi)的時(shí)間。 3．通過實(shí)驗(yàn)驗(yàn)