基于關(guān)聯(lián)規(guī)則的不平衡數(shù)據(jù)分類方法研究.pdf

1、基于關(guān)聯(lián)規(guī)則的分類方法即關(guān)聯(lián)分類算法，是數(shù)據(jù)挖掘中非常重要的一個(gè)領(lǐng)域，因解釋說明性強(qiáng)，分類精度高等特點(diǎn)已經(jīng)成為智能決策領(lǐng)域的研究熱點(diǎn)。然而，不平衡數(shù)據(jù)的出現(xiàn)給關(guān)聯(lián)分類算法帶來了挑戰(zhàn)。在現(xiàn)實(shí)生活中存在很多不平衡數(shù)據(jù)集的應(yīng)用，比如入侵檢測、森林火災(zāi)、信用欺詐等等。在這些應(yīng)用中，人們關(guān)心的更多是對少數(shù)類的分類精度，因?yàn)樗腻e(cuò)誤分類產(chǎn)生的代價(jià)是非常大的。因此，在實(shí)際應(yīng)用中非常有必要提高不平衡數(shù)據(jù)的分類精度，尤其是少數(shù)類的分類精度。
　　對

2、于關(guān)聯(lián)分類算法不能很好地處理不平衡數(shù)據(jù)，主要有兩方面的原因:一是關(guān)聯(lián)分類使用的興趣度量往往是基于“置信度-支持度”架構(gòu)的，對于不平衡數(shù)據(jù)集，無論將其設(shè)置得或高或低，都會(huì)產(chǎn)生極少與少數(shù)類有關(guān)的規(guī)則或大量無用的規(guī)則。興趣度量起著至關(guān)重要的作用，它參與了規(guī)則的生成、剪枝和排序的過程，所以選擇合適的興趣度量對提高關(guān)聯(lián)分類算法處理不平衡數(shù)據(jù)的性能非常有必要。二是因?yàn)轭惙植疾痪牟黄胶鈹?shù)據(jù)會(huì)導(dǎo)致分類算法往往傾向于多數(shù)類，容易忽略少數(shù)類起到的作用，使

3、得生成的規(guī)則質(zhì)量較差。針對以上原因本文主要從以下兩個(gè)方面展開研究:
　　(1)從興趣度量角度著手，旨在找到合適的興趣度量，從而提高關(guān)聯(lián)分類方法處理不平衡數(shù)據(jù)的性能。一方面本文提出了穩(wěn)定強(qiáng)關(guān)聯(lián)度量挖掘(Stable Strongly CorrelatedMeasures Mining)方法找到在不平衡數(shù)據(jù)下普遍存在強(qiáng)關(guān)聯(lián)關(guān)系的度量集，進(jìn)而分析其行為。另一方面，為了選出所有優(yōu)秀的度量，本文基于分類精度實(shí)現(xiàn)了對所有興趣度量在不同類分布下

4、的排序，經(jīng)過篩選和行為分析得到了具有不同特點(diǎn)的兩組相對優(yōu)秀的度量集。
　　(2)從數(shù)據(jù)和規(guī)則層次著手，旨在保證規(guī)則的質(zhì)量，從而提高關(guān)聯(lián)分類對不平衡數(shù)據(jù)集的分類精度。首先在數(shù)據(jù)層次，本文提出關(guān)鍵值抽樣(Key Value Sampling)法對原始訓(xùn)練集進(jìn)行抽樣，通過增加與少數(shù)類相關(guān)性強(qiáng)的數(shù)據(jù)，減少與多數(shù)類相關(guān)性弱的數(shù)據(jù)來達(dá)到數(shù)據(jù)類分布平衡。其次在規(guī)則層次，本文充分利用了關(guān)聯(lián)分類產(chǎn)生的分類器能夠?qū)崿F(xiàn)修改個(gè)別規(guī)則而不影響其它規(guī)則的特點(diǎn)