聚類

1、聚類,IRLAB,大綱,聚類分析簡介層次聚類單連接和全連接聚類組平均聚類應用：改進語言模型自頂向下聚類非層次聚類K-均值EM算法,什么是聚類分析?,聚類: 數(shù)據(jù)對象的集合在同一個類中，數(shù)據(jù)對象是相似的不同類之間的對象是不相似的聚類分析一個數(shù)據(jù)集合分組成幾個聚類聚類是一種無監(jiān)督分類:沒有預定義的類典型應用作為一個獨立的工具 透視數(shù)據(jù)分布可以作為其他算法的預處理步驟,聚類算法類型,層次聚類與非層次聚類自底向

2、上與自上向下（凝聚與分裂）K-均值軟聚類與硬聚類K-均值 模糊聚類（EM算法）,層次聚類,自底向下的聚類每一項自成一類迭代，將最近的兩類合為一類自頂向下的聚類將所有項看作一類找出最不相似的項分裂出去成為兩類,類的相似度度量,我們可以知道兩個項之間的相似度，但是聚類要求知道類與類之間的相似度三種方法：單連接方法全連接方法組平均方法,非層次聚類,K-均值硬聚類計算每個類的中心EM算法考慮稀疏數(shù)據(jù)公式用E

3、M算法計算P( ci|w1),K-均值,將n個向量分到k個類別中去選擇k個初始中心計算兩項距離計算均值,K-均值算法,,EM-算法,算法族以前的一個例子：前向后項算法是EM算法的一個例子可以用于任意的概率模型E(likelihood)及max likelihood estimite估計,模糊聚類,經(jīng)典的k均值聚類算法的一部迭代中，每一個樣本點都被認為是完全屬于某一類別。模糊聚類放松這一條件，假定每個樣本是模糊隸屬于某一