不同決策環(huán)境下決策樹模型的研究.pdf

1、隨著計(jì)算機(jī)技術(shù)的不斷發(fā)展，數(shù)據(jù)挖掘和機(jī)器學(xué)習(xí)技術(shù)已經(jīng)被廣泛地應(yīng)用于社會(huì)的各個(gè)領(lǐng)域。數(shù)據(jù)挖掘和機(jī)器學(xué)習(xí)中的一項(xiàng)重要研究課題是決策樹分類。傳統(tǒng)的決策樹分類方法只注重分類的精度，沒有考慮到不同的誤分類會(huì)造成不一樣的代價(jià)這一事實(shí)，不能應(yīng)用于代價(jià)敏感的決策環(huán)境中。為解決代價(jià)敏感環(huán)境下的決策問題，在傳統(tǒng)決策樹的基礎(chǔ)上提出了代價(jià)敏感決策樹，之后經(jīng)過近十年的研究和發(fā)展，取得了豐碩的成果，相繼出現(xiàn)了分類代價(jià)，測(cè)試代價(jià)，師資代價(jià)，計(jì)算代價(jià)，干預(yù)代價(jià)等不同類

2、型的代價(jià)敏感學(xué)習(xí)技術(shù)，并進(jìn)一步提出了異構(gòu)代價(jià)敏感決策樹。
　　代價(jià)敏感決策樹提出之后，具有代價(jià)敏感的決策問題得到了很好的解決。然而人類社會(huì)的任何決策都是綜合復(fù)雜的，除了考慮代價(jià)因素之外還可能要考慮其他方方面面的影響因素，例如具有收益敏感的決策問題需要考慮收益因素，具有偏好敏感的決策問題需要考慮決策者的偏好因素。傳統(tǒng)決策樹和代價(jià)敏感決策樹的理論和方法已經(jīng)難以適應(yīng)這些決策環(huán)境，新的理論和方法必須繼續(xù)擴(kuò)充發(fā)展，以迎接新問題，解決新挑戰(zhàn)。

3、
　　面對(duì)上述的新問題和新挑戰(zhàn)，本文主要研究在收益敏感環(huán)境下和偏好敏感環(huán)境下決策樹的構(gòu)建。在傳統(tǒng)決策樹和代價(jià)敏感決策樹的基礎(chǔ)上提出了代價(jià)與收益雙敏感的決策樹，以及偏好敏感的決策樹，分別用來解決收益敏感的決策問題和偏好敏感的決策問題，并用實(shí)驗(yàn)證實(shí)了所提方法的可行性和有效性。本文的主要?jiǎng)?chuàng)新點(diǎn)如下:
　　(1)提出復(fù)雜決策環(huán)境下決策樹面臨的問題。首先通過介紹決策樹的基礎(chǔ)理論，回答了什么是決策樹，如何建立決策樹的問題。然后對(duì)當(dāng)前各種

4、決策樹進(jìn)行了總結(jié)，把以獲得最小錯(cuò)誤率為最終目標(biāo)的決策樹統(tǒng)稱為傳統(tǒng)決策樹，把以獲得最小化代價(jià)為目標(biāo)的決策樹統(tǒng)稱為代價(jià)敏感決策樹，并進(jìn)一步分析了傳統(tǒng)決策樹和代價(jià)敏感決策樹存在的問題和不足，進(jìn)而提出收益敏感的決策環(huán)境和偏好敏感的決策環(huán)境對(duì)決策樹帶來的新挑戰(zhàn)。
　　(2)在收益敏感的決策環(huán)境下，提出了一種代價(jià)與收益并存的決策樹分類算法，在該算法中利用UCB(Unit cost-benefit)作為類標(biāo)號(hào)判斷標(biāo)準(zhǔn)，同時(shí)考慮誤分類代價(jià)和正確分

5、類收益，設(shè)計(jì)了基于代價(jià)和收益都敏感的屬性選擇因子，構(gòu)造了代價(jià)與收益并存的決策樹(CBDT)，最終目的是得到最小化代價(jià)下的最大收益。我們進(jìn)行了各種實(shí)驗(yàn)，包括“不同算法下的比較”，“不同缺失率下的比較”和“UCB值的顯著性差異分析”。實(shí)驗(yàn)證明我們的方法具有較高的有效性和實(shí)用性。
　　(3)在偏好敏感的決策環(huán)境下，提出了一種偏好敏感決策樹分類算法。分析了偏好敏感問題的產(chǎn)生，定義了偏好度和偏好代價(jià)，給出了偏好敏感學(xué)習(xí)的概念。然后描述了確定