因果貝葉斯網(wǎng)絡(luò)結(jié)構(gòu)學(xué)習(xí)研究.pdf

1、因果貝葉斯網(wǎng)絡(luò)也被稱(chēng)為信念網(wǎng)絡(luò)，是基于概率圖理論的一種不確定性知識(shí)表達(dá)和推理模型。它在數(shù)據(jù)挖掘、模式識(shí)別、數(shù)據(jù)壓縮、基因信息調(diào)控、圖象處理、工業(yè)制造等方面都有重要的應(yīng)用。因果貝葉斯網(wǎng)絡(luò)結(jié)構(gòu)作為貝葉斯網(wǎng)絡(luò)參數(shù)學(xué)習(xí)、推理、分類(lèi)的基礎(chǔ)，它的學(xué)習(xí)方法顯得特別重要。到目前為止，因果貝葉斯網(wǎng)絡(luò)的結(jié)構(gòu)學(xué)習(xí)是一個(gè)NP難題。本文的內(nèi)容可分為以下幾部分：
　　(1)介紹了因果貝葉斯網(wǎng)絡(luò)結(jié)構(gòu)學(xué)習(xí)的研究背景、現(xiàn)狀以及基本理論。
　　(2)針對(duì)爬山算

2、法和GS算法在學(xué)習(xí)因果貝葉斯網(wǎng)絡(luò)結(jié)構(gòu)時(shí)很難得到近似全局最優(yōu)結(jié)構(gòu)和搜索次數(shù)多的問(wèn)題，提出了一種基于X2測(cè)試的貪婪搜索結(jié)構(gòu)學(xué)習(xí)算法CIGS算法。在爬山算法和GS算法在學(xué)習(xí)貝葉斯網(wǎng)絡(luò)前，對(duì)初始化網(wǎng)絡(luò)進(jìn)行了全局性的處理，先通過(guò)X2測(cè)試學(xué)習(xí)得到一個(gè)無(wú)向圖，然后用條件相對(duì)平均熵對(duì)這個(gè)無(wú)向圖判別方向，使得學(xué)習(xí)到的網(wǎng)絡(luò)中邊的方向更加準(zhǔn)確，最后用GS算法進(jìn)行學(xué)習(xí)。實(shí)驗(yàn)證明CIGS算法與爬山算法、GS算法相比能夠得到更優(yōu)的近似全局最優(yōu)結(jié)構(gòu)，減少了搜索次數(shù)使

3、得算法在時(shí)間性能上更高效。
　　(3)針對(duì)獨(dú)立性測(cè)試算法，如PC算法、TPDA算法由于計(jì)算性能的限制，很難在多結(jié)點(diǎn)的大數(shù)據(jù)集上運(yùn)行的問(wèn)題，引入了d-分離樹(shù)的概念，應(yīng)用d-分離樹(shù)把大的貝葉斯網(wǎng)絡(luò)分解為多個(gè)小的網(wǎng)絡(luò)，然后對(duì)這些小網(wǎng)絡(luò)采用獨(dú)立性測(cè)試的方法進(jìn)行學(xué)習(xí)，再把學(xué)習(xí)得到小網(wǎng)絡(luò)整合起來(lái)，基于此，提出了一種基于d-分離樹(shù)分解的GES因果貝葉網(wǎng)絡(luò)結(jié)構(gòu)學(xué)習(xí)改進(jìn)算法，這種因果貝葉斯網(wǎng)絡(luò)結(jié)構(gòu)學(xué)習(xí)算法很好地結(jié)合了搜索評(píng)分和獨(dú)立性測(cè)試這兩類(lèi)結(jié)構(gòu)學(xué)

4、習(xí)算法的優(yōu)點(diǎn)，能夠更加有效地學(xué)習(xí)因果貝葉斯網(wǎng)絡(luò)結(jié)構(gòu)。
　　(4)對(duì)貝葉斯網(wǎng)絡(luò)結(jié)構(gòu)的主動(dòng)學(xué)習(xí)領(lǐng)域進(jìn)行了研究。分析了貝葉斯網(wǎng)絡(luò)的因果強(qiáng)度和三種擾動(dòng)模型，最后分別采用互信息、對(duì)稱(chēng)熵、不對(duì)稱(chēng)信息熵來(lái)選擇擾動(dòng)節(jié)點(diǎn)進(jìn)行結(jié)構(gòu)學(xué)習(xí)，并實(shí)驗(yàn)驗(yàn)證了這幾種方法的優(yōu)劣。分析了這幾種方法用于因果貝葉斯網(wǎng)絡(luò)結(jié)構(gòu)學(xué)習(xí)的精確程度，還提出了用互信息和不對(duì)稱(chēng)熵結(jié)合的方式選擇擾動(dòng)結(jié)點(diǎn)進(jìn)行結(jié)構(gòu)學(xué)習(xí)的方法。實(shí)驗(yàn)表明，這種方法針對(duì)數(shù)據(jù)集較少的小規(guī)模網(wǎng)絡(luò)上很大程度上提高了因果