基于Spark和集成學(xué)習(xí)的分類(lèi)方法研究.pdf

1、分類(lèi)是數(shù)據(jù)挖掘和機(jī)器學(xué)習(xí)領(lǐng)域中的重要技術(shù)，已有分類(lèi)算法大多通過(guò)重復(fù)計(jì)算數(shù)據(jù)集來(lái)提高分類(lèi)準(zhǔn)確率，然而這是以降低計(jì)算效率為代價(jià)的。為了在提高分類(lèi)準(zhǔn)確率的同時(shí)降低計(jì)算代價(jià)，通過(guò)分析集成學(xué)習(xí)方法較強(qiáng)的泛化能力，每個(gè)屬性擁有的分類(lèi)能力，以及最小二乘法直接求解線性模型的高效率，提出了基于線性回歸和屬性集成的分類(lèi)算法（A Classification Algorithm Using Linear Regression and Attribute En

2、semble，簡(jiǎn)稱(chēng)LRAE）。研究的具體工作如下：
　?。?）通過(guò)分析決策樹(shù)算法，發(fā)現(xiàn)了每個(gè)屬性都有分類(lèi)能力，但它在分類(lèi)預(yù)測(cè)時(shí)并沒(méi)有使用所有樹(shù)節(jié)點(diǎn)。這使得部分屬性的分類(lèi)能力不能被充分利用，從而限制了它的分類(lèi)準(zhǔn)確率。針對(duì)這種情況，提出為每個(gè)屬性建立分類(lèi)模型并通過(guò)集成方法提高分類(lèi)準(zhǔn)確率。通過(guò)分析邏輯回歸和支持向量機(jī)算法，發(fā)現(xiàn)它們都通過(guò)迭代計(jì)算來(lái)優(yōu)化分類(lèi)模型，從而提高分類(lèi)準(zhǔn)確率。這說(shuō)明優(yōu)化模型需要重復(fù)地計(jì)算數(shù)據(jù)集，而且它們的較高分類(lèi)準(zhǔn)確

3、率都是以降低計(jì)算效率為代價(jià)的。為了提高訓(xùn)練模型的計(jì)算效率，提出了使用線性回歸算法來(lái)訓(xùn)練分類(lèi)模型。
　?。?）LRAE算法的基本原理如下：首先，根據(jù)屬性的分類(lèi)能力，提出了使用線性回歸為每個(gè)屬性構(gòu)建屬性線性分類(lèi)器（Attribute Linear Classifier，簡(jiǎn)稱(chēng)ALC）；然后，為了避免因ALC過(guò)多而導(dǎo)致的準(zhǔn)確率下降，結(jié)合最小二乘法的經(jīng)驗(yàn)誤差最小化策略，使用經(jīng)驗(yàn)損失值作為評(píng)估標(biāo)準(zhǔn)來(lái)選擇ALC；最后，采用多數(shù)投票法結(jié)合ALC判