基于粗糙集合的屬性選擇方法研究.pdf

1、數(shù)據(jù)挖掘是從20世紀(jì)90年代以來(lái)迅速發(fā)展起來(lái)的一門新興技術(shù)．其處理對(duì)象是大量的日常業(yè)務(wù)數(shù)據(jù)，目的是將隱含的、尚不為人知的，同時(shí)又是潛在有用的信息從數(shù)據(jù)中提取出來(lái)．機(jī)器學(xué)習(xí)為數(shù)據(jù)挖掘的實(shí)現(xiàn)提供了理論基礎(chǔ)，包括從原始數(shù)據(jù)庫(kù)中提取信息，并以可理解的形式表達(dá)知識(shí)，進(jìn)而適用于各種用途．機(jī)器學(xué)習(xí)算法對(duì)其處理的數(shù)據(jù)集合一般都有一定要求，比如數(shù)據(jù)完整性好、數(shù)據(jù)冗余性少、屬性之間相關(guān)性小等．然而，日常業(yè)務(wù)數(shù)據(jù)中一般都可能具有不完整性、冗余性和模糊性等特點(diǎn)

2、．目前解決這一問(wèn)題的有效手段是在執(zhí)行機(jī)器學(xué)習(xí)算法之前對(duì)數(shù)據(jù)進(jìn)行預(yù)處理，去掉不完整或冗余的數(shù)據(jù)． 屬性選擇是數(shù)據(jù)預(yù)處理的一個(gè)重要環(huán)節(jié)．一種好的屬性選擇算法可以對(duì)數(shù)據(jù)集進(jìn)行降噪與降維，使機(jī)器學(xué)習(xí)算法具有更好的效果．目前屬性選擇已經(jīng)成為國(guó)內(nèi)外研究的熱門話題之一，已經(jīng)有一些行之有效的屬性選擇算法．粗糙集合理論是一種描述不完整性和不確定性的數(shù)學(xué)工具，在機(jī)器學(xué)習(xí)與知識(shí)發(fā)現(xiàn)、決策支持與分析等方面有著廣泛的應(yīng)用．粗糙集合理論的精髓是數(shù)據(jù)約簡(jiǎn)，利

3、用數(shù)據(jù)約簡(jiǎn)可以處理屬性選擇問(wèn)題，目前已有一些屬性選擇算法的研究開(kāi)始關(guān)注于應(yīng)用粗糙集合理論，并初步得到實(shí)驗(yàn)驗(yàn)證． 本文首先介紹了屬性選擇的相關(guān)技術(shù)，包括屬性選擇中非常關(guān)鍵的屬性評(píng)價(jià)方法和屬性搜索算法．其次，敘述了本文所涉及的粗糙集合理論的基本概念，特別分析了粗糙集合理論中的數(shù)據(jù)約簡(jiǎn)和利用區(qū)分矩陣計(jì)算約簡(jiǎn)的基本方法．進(jìn)而，在剖析數(shù)據(jù)挖掘開(kāi)源工具Weka系統(tǒng)中的屬性選擇實(shí)現(xiàn)的相關(guān)內(nèi)容的基礎(chǔ)之上，提出了一種新的屬性選擇算法，該算法以粗糙

4、集合理論中的核集作為屬性選擇的初始集合，以對(duì)稱不確定性作為屬性評(píng)價(jià)方法，綜合考慮了屬性與類之間和屬性與屬性之間的相關(guān)性．最后，在實(shí)驗(yàn)中用Naive Bayes分類算法和C4.5決策樹(shù)算法作為屬性選擇結(jié)果的評(píng)價(jià)器，在屬性選擇后的新數(shù)據(jù)集和原始數(shù)據(jù)集上分別運(yùn)行上述兩種算法，最后將各自的分類結(jié)果進(jìn)行比較得出結(jié)論．由于此方法保留了對(duì)機(jī)器學(xué)習(xí)貢獻(xiàn)較大的核集屬性因此在具有核集屬性的數(shù)據(jù)集上比其他利用空集作為初始集合的屬性選擇算法有更好的屬性選擇效果