基于詞向量和主題向量的文本分類算法研究.pdf

1、隨著互聯網的飛速發(fā)展，我們每天面對著越來越多需要處理的文本信息。如何從海量的文本信息中提取出所需要的目標信息，從而給人們更好的服務與體驗是我們面臨的一項主要挑戰(zhàn)。文本分類算法則是完成這項挑戰(zhàn)中的一項重要技術。文本分類作為一項基礎技術，已經涉及到圖書館智能化管理、新聞個性化推薦、文本情感分析、文本信息過濾等方面，這些應用使人們的生活更加便捷。本文在分析原有的文本分類技術的基礎上，發(fā)現原有算法的不足，從而提出了一種新的文本特征提取框架，主要

2、工作內容如下：
　　(1)分析了詞向量算法可以計算詞語間相似度，將其引入到文本分類特征提取中有利于構建更優(yōu)秀的特征，選擇了性能和速度都更優(yōu)秀的Word2Vec詞向量計算算法。但是詞向量無法解決一詞多義問題，而且詞向量只表示了上下文詞語關系，缺少文本全局信息。本文提出了一種將主題與詞向量計算結合的方法，得到了與詞向量類似的主題向量。因為相同的詞語可能具有不同的主題向量，并且主題向量是一種全局級別的信息。將主題向量和詞向量結合的方法，

3、在改善了一詞多義問題的同時引入了全文信息。
　　(2)一些文本特征提取方法直接使用詞向量累加或者類似的低維度特征方法。這種低維的特征對表達字典維度巨大的文本特征不利，拋棄了高維向量空間模型對文本分類問題的優(yōu)勢。文本提出了一種保留向量空間模型的Adaptive-means聚類算法，這種自適應聚類算法將詞向量與主題向量結合，使得在文本中含義相近的詞語聚為一類，從而在最終文本特征表達時相似的詞語對特征貢獻相同。本文還利用n-gram增加