高斯均值場變分推理的算法研究.pdf

1、圖模型是人工智能學科表示、處理不確定知識的重要方法。圖模型精確推理的計算復雜性是指數的，促使發(fā)展出變分方法、采樣方法、環(huán)傳播方法、定性方法等圖模型近似推理方法。由于圖模型變分近似推理方法具有堅實的理論基礎、較快的收斂速度、簡單的計算復雜性和嚴格的上下界等特點，故而受到概率推理研究界的重視?，F(xiàn)有變分推理研究工作主要從統(tǒng)計學觀點研究變分推理的方法、理論和性質，較少從計算角度研究變分推理的基本算法及其基本性質。針對以上問題，本文在高斯馬爾可夫

2、隨機場基本模型上，研究了變分推理的基本算法及其基本性質，具體工作包括： 1.給出了圖模型的八元組定義。完整地表示了隨機變量的條件獨立性和聯(lián)合概率分布，統(tǒng)一地定義了有向圖模型和無向圖模型。 2.設計了變分推理基本算法。在高斯馬爾可夫隨機場基本模型上，設計了精確變分推理算法和均值場變分推理算法。 3.研究了算法的基本性質。證明了算法的收斂性，討論了算法的精確性，分析了算法的復雜性。 4.開展了實驗研究。設計了