用于回歸預測的高斯過程模型研究.pdf

1、近年來高斯過程（Gaussian Process，GP）模型已成為一種重要的機器學習方法。它綜合了基于核的機器學習與基于貝葉斯推理機器學習的特點，同時具備上述兩種機器學習方式的優(yōu)點。高斯過程模型既可用于分類，也可用于回歸預測。本文主要研究用于回歸預測的高斯過程模型，具體研究工作如下：
　?。?）多尺度高斯過程模型的近似學習曲線研究
　　基于高斯過程相關理論，對多尺度高斯過程模型的學習曲線進行研究。首先，對學習曲線進行了定義，

2、然后根據(jù)多尺度高斯過程模型的原理，推導出學習曲線的一般表達式，并通過對多個樣本集求均值的方式對學習曲線進行近似計算，得到近似學習曲線的計算表達式，最后在Matlab環(huán)境下實現(xiàn)了學習曲線的近似計算實驗仿真。
　　（2）學習曲線的單點上界和兩點上界研究
　　借鑒Williams, C.K.I.和Vivarelli, F.提出的GP模型的單點上界和兩點上界的研究思路，推導出了MGP模型的單點上界和兩點上界公式，并用Simpson公

3、式或梯度公式對兩種上界進行了近似計算，得到了兩種上界的數(shù)值計算表達式。在Matlab環(huán)境下實現(xiàn)了學習曲線單點上界以及兩點上界的實驗仿真。通過實驗驗證了多尺度高斯過程學習曲線及其界的理論的正確性，并且通過對比不同參數(shù)情形下的實驗結果，得出了各個模型參數(shù)對MGP模型學習曲線及其界的影響。
　　（3）高斯過程混合模型的回歸預測研究
　　研究了GP模型的另一種改進型，即高斯過程混合模型（GPMs）。首先闡述如何用留一交叉驗證法對模型