包含正交化主題的概率文本模型.pdf

1、如今，主題模型已經(jīng)被廣泛應用于文本分析中。一些已經(jīng)問世的主題模型，比如基于概率的隱式語義分析法（Probabilistic Latent Semantic Analysis，PLSA）以及它的一些改良模型，在挖掘文本的隱式主題結構上取得了重大成功。大部分的改良模型出于不同的目的均在文本-主題分布上進行了加強。然而，這些模型并沒有在主題-詞語分布上做出改變。但是主題-詞語分布同樣對主題模型的效果起著重要的作用，因此只對文本-主題分布進行加

2、強而忽視主題-詞語分布的方法具有一定的局限性。
　　本論文著眼于提高主題模型中主題-詞語分布的多樣性與合理性，提出了正交化主題模型（Orthogonalized Topic Model，OTM）。具體來講，OTM在主題模型中的主題-詞語分布上加入了正交化的限制。同時，為了求解OTM，論文還提出了一種新穎的基于最大期望（Expectation-Maximization，EM）算法與牛頓-拉弗森方法（Newton-Raphson Me