基于三支決策的代價(jià)敏感學(xué)習(xí)方法研究.pdf

1、數(shù)據(jù)挖掘中的一個(gè)重要模型是分類模型，傳統(tǒng)數(shù)據(jù)挖掘方法的目標(biāo)是獲得一個(gè)分類精度盡可能高的分類器。但是在實(shí)際問(wèn)題中，外部環(huán)境的各種不確定因素會(huì)導(dǎo)致決策不能順利達(dá)到預(yù)期目標(biāo)，進(jìn)而帶來(lái)決策風(fēng)險(xiǎn)代價(jià)，且分類模型中的誤分類代價(jià)不盡相同，存在代價(jià)敏感性。完全避免決策失誤是難以做到的，人們所期望的是使決策風(fēng)險(xiǎn)代價(jià)最小，而非期望利益最大化。追求決策知識(shí)與經(jīng)驗(yàn)數(shù)據(jù)的嚴(yán)格一致性容易給決策者提供錯(cuò)誤的決策信息，且忽略了決策者對(duì)預(yù)期風(fēng)險(xiǎn)的規(guī)避心理，已不適用于解決

2、實(shí)際問(wèn)題。三支決策將決策視為分類問(wèn)題，與數(shù)據(jù)挖掘處理的問(wèn)題模型相一致，建立了決策理論與數(shù)據(jù)挖掘方法之間的橋梁，其具有的誤差容忍與代價(jià)敏感機(jī)制可以使傳統(tǒng)的數(shù)據(jù)挖掘方法在分類中對(duì)不同代價(jià)的誤分類結(jié)果具有區(qū)分性與敏感性，以做出風(fēng)險(xiǎn)損失最低的分類結(jié)果。
　　針對(duì)一般的數(shù)據(jù)挖掘模型僅僅尋求分類器的精度，不能根據(jù)人們的期望處理現(xiàn)實(shí)中的決策問(wèn)題，本文將三支決策用于傳統(tǒng)的數(shù)據(jù)挖掘方法中，構(gòu)建了基于三支決策的代價(jià)敏感學(xué)習(xí)方法，使傳統(tǒng)的數(shù)據(jù)挖掘方法更

3、好地適應(yīng)具有代價(jià)敏感性的實(shí)際問(wèn)題。本文主要研究?jī)?nèi)容如下:
　　(1)針對(duì)典型的支持向量機(jī)增量學(xué)習(xí)算法對(duì)有價(jià)值的非支持向量的忽略，以及一般的支持向量機(jī)增量學(xué)習(xí)算法盡可能提升分類精度的客觀性，利用三支決策的代價(jià)敏感性和邊界域構(gòu)建了一種新的支持向量機(jī)增量學(xué)習(xí)算法。該算法首先根據(jù)支持向量機(jī)的學(xué)習(xí)原理來(lái)度量三支決策中的條件概率;然后采用三支決策劃分出邊界域，并基于支持向量機(jī)對(duì)其與新增樣本、原支持向量的并集進(jìn)行分類;最后，通過(guò)實(shí)驗(yàn)證明，該方法

4、不僅能夠篩選出有價(jià)值的非支持向量進(jìn)而提高分類的精確性，而且使支持向量機(jī)增量學(xué)習(xí)方法更適合于具有代價(jià)敏感性的實(shí)際問(wèn)題，并使三支決策中條件概率的構(gòu)建方式更切合于具體學(xué)習(xí)環(huán)境。
　　(2)針對(duì)現(xiàn)有的涉及k近鄰的top-n離群點(diǎn)檢測(cè)算法通常依賴于參數(shù)k，n，但用戶卻很難確定合適的參數(shù)值，基于三支決策的三支語(yǔ)義提出了一種基于三支決策的代價(jià)敏感離群點(diǎn)檢測(cè)方法。該方法首先采用k近鄰來(lái)度量三支決策的條件概率;其次，構(gòu)建使決策代價(jià)最小的最優(yōu)化問(wèn)題來(lái)

5、自適應(yīng)地尋找最優(yōu)條件概率;然后，采用三支決策遞歸地劃分離群點(diǎn);最后，通過(guò)實(shí)驗(yàn)證明，該方法不僅使條件概率的度量方法適用于離群點(diǎn)檢測(cè)問(wèn)題，而且可以在不需要用戶參與的前提下自動(dòng)地檢測(cè)離群點(diǎn)。
　　(3)針對(duì)傳統(tǒng)數(shù)據(jù)挖掘方法對(duì)不一致數(shù)據(jù)的忽視，以及一般的決策樹(shù)算法對(duì)不一致結(jié)點(diǎn)的處理缺乏理論支撐的缺陷，根據(jù)三支決策的代價(jià)敏感性和邊界域構(gòu)建了一種新的決策樹(shù)分類方法。該方法首先采用決策樹(shù)結(jié)點(diǎn)的正例比例來(lái)度量三支決策中的條件概率，進(jìn)而三支劃分決策