數據挖掘之分類算法的研究畢業(yè)論文

1、數據挖掘之分類算法的研究數據挖掘之分類算法的研究摘要：對分類算法中需要解決的關鍵問題進行了分析；綜述了不同分類算法的思想和特性，決策樹分類算法能夠很好地處理噪聲數據，但只能對規(guī)模較小的訓練樣本集有效；貝葉斯分類算法精度高、速度快、錯誤率低、但分類不夠準確；傳統(tǒng)的基于關聯規(guī)則算法分類算法準確率高，但容易受硬件內存的制約；支持向量機算法分類準確率高、復雜性低，但速度慢。并且針對決策樹分類算法的缺點進行了改進。關鍵字：數據挖掘，分類算法，決策

2、樹0引言數據挖掘是從海量數據中獲取有用知識和價值的過程，是數據庫技術自然演化的結果。數據挖掘已廣泛應用于零售、金融、保險、醫(yī)療、通訊等行業(yè)，并展現出了其強大的知識發(fā)現的能力。在數據挖掘的研究與應用中，分類(Classification)算法一直受學術界的關注，它是一種有監(jiān)督的學習，通過對已知類別訓練集的分析，從中發(fā)現分類規(guī)則，以此預測新數據的類別。數據分類算法中，為建立模型而被分析的數據元組組成的數據集合稱為訓練數據集，訓練數據集中的單

3、個樣本(或元組)稱為訓練樣本。分類算法是將一個未知樣本分到幾個已存在類的過程，主要包含兩個步驟:第1步，根據類標號已知的訓練數據集，訓練并構建一個模型，用于描述預定的數據類集或概念集第2步，使用所獲得的模型，對將來或未知的對象進行分類。1分類算法中的關鍵問題不同的分類算法有不同的特性，完成不同的任務。目前很多分類算法被機器學習、專家系統(tǒng)、統(tǒng)計學和神經生物學等的研究者從不同角度提出，判斷不同分類算法的好壞可以由準確率、速度、健壯性、可伸縮

4、性、可解釋性等幾個標準來衡量。另外，分類算法的效果通常和數據的特點有關，有的數據有空缺值，有的噪聲大，有的分部稀疏，有的屬性是連續(xù)的，有的則是離散或混合的。經典的分類算法都有在不同的領域取得成功，比如決策樹分類算法用于醫(yī)療診斷、金融分析、評估貸款申請的信用風險等廣闊領域支持向量機分類算法應用于模式識別、基因分析、文本分類、語音識別、回歸分析等領域由于對噪聲數據具有很好的承受能力，神經網絡廣泛應用在字符識別、分子生物法的軟決策樹算法，極大

5、地提高了樹的正確率和歸納能力。王熙照教授等研究者為處理多類問題，采用基于層次分解的方法產生多層決策樹；針對C4.5算法的不足，提出新的決策樹算法解決歸納學習的判決精度問題[4]。還有一種多決策樹綜合技術，先將數據集分成多個子數據集，然后將生成的多個不同的決策樹綜合起來，生成最終的、最穩(wěn)定的決策樹。2.2貝葉斯分類算法貝葉斯(Beyes)分類算法基于概率統(tǒng)計學的貝葉斯定理，是一種在先驗概率與類條件概率已知的情況下，預測類成員關系可能性的模

6、式分類算法，如計算一個給定樣本屬于一個特定類的概率，并選定其中概率最大的一個類別作為該樣本的最終類別。貝葉斯分類算法的關鍵是使用概率表示各種形式的不確定性。對于大型數據集，從理論上講，精確度高，運算速度快，具有最小的錯誤率，是貝葉斯算法的最大優(yōu)點，但實際情況下，因其假定的不準確性，導致缺乏可用的數據，就需要足夠大的樣本。針對該缺陷，出現了一些降低獨立性假設的貝葉斯改進分類算法，如半樸素貝葉斯算法、壓縮候選的貝葉斯信念網絡構造算法、TAN

7、算法等[5]。貝葉斯分類算法還可以用來對不直接使用貝葉斯定理的其他分類算法提供理論判據。基于聚類分析思想，提出一種合理性、可信度都優(yōu)于樸素貝葉斯缺損數據的修補算法。利用貝葉斯和決策樹分類算法的優(yōu)點，將貝葉斯的先驗信息法與決策樹分類的信息增益法相結合的混合分類算法，在處理不一致或者不完整數據時，比單純使用貝葉斯或決策樹進行的分類運算速度更快，準確率更高。2.3基于關聯規(guī)則分類算法針對貝葉斯分類算法需要大樣本量的缺點，研究者提出了基于關聯規(guī)

8、(Classificationbasedonassociationrule，CBA)的分類算法。CBA算法通過發(fā)現樣本集中的關聯規(guī)則來構造分類器，其經典算法Aprii，通過3個步驟來構造分類器，基于規(guī)則的分類器使用“if…then…”來分類記錄，其優(yōu)先考慮置信度，迭代檢索出數據集中所有的支持度不低于用戶設定閾值的項集?；陉P聯規(guī)則分類算法集分類器構造與屬性相關分析于一體，發(fā)現的規(guī)則相對較全面且分類準確度較高，是一種很有潛力的分類算法。傳