一種基于影響因子的ID3改進算法.pdf

1、伴隨著海量數(shù)據(jù)的不斷涌現(xiàn)，“數(shù)據(jù)充沛，卻信息匱乏”的矛盾日益突出。數(shù)據(jù)挖掘為我們從海量數(shù)據(jù)中提取或挖掘有用信息提供了有效的技術(shù)手段，其中作為數(shù)據(jù)挖掘重要方法的決策樹分類挖掘被廣泛應(yīng)用和研究。作為決策樹分類中的經(jīng)典算法，ID3算法是Quinlan在1986年提出的，其選擇具有最大信息增益值的屬性作為分裂屬性，從而使分裂后的系統(tǒng)具有的信息熵最小，并使所構(gòu)造決策樹的結(jié)構(gòu)更簡單，進而提高分類算法的運行效率和分類準確率。
　　針對ID3算法

2、在用信息增益作為分裂屬性選擇的標準時存在多值偏向的問題，即偏向于取值較多的屬性，本文提出了一種基于影響因子的ID3改進算法。該算法通過引入影響因子的概念，在計算信息增益時考慮屬性及其屬性值對類標記的影響因子，選擇改進后的信息增益作為劃分屬性的選擇標準。由于取值較多的屬性的影響因子在較高概率上取值較小，從而在一定程度上克服了ID3算法的多值偏向問題。同時，為了減小訓(xùn)練數(shù)據(jù)集中噪聲或離群點對決策樹構(gòu)造過程的影響，改進后的算法通過引入誤分類比