基于機(jī)器學(xué)習(xí)的入侵檢測(cè)系統(tǒng)的研究與實(shí)現(xiàn).pdf

1、統(tǒng)計(jì)學(xué)習(xí)理論是在有限樣本情況下新建立起來(lái)的統(tǒng)計(jì)學(xué)理論體系。統(tǒng)計(jì)學(xué)習(xí)為人們系統(tǒng)地研究小樣本情況下機(jī)器學(xué)習(xí)問(wèn)題提供了有力的理論基礎(chǔ)。支持向量機(jī)（Support Vector Machine,SVM）是在該理論體系下產(chǎn)生的一種新的、非常有力的機(jī)器學(xué)習(xí)方法。它較好地解決了以往很多學(xué)習(xí)方法的小樣本、非線性、過(guò)學(xué)習(xí)、高維數(shù)、局部極小點(diǎn)等實(shí)際問(wèn)題，具有很強(qiáng)的推廣能力。作為SVM方法的一個(gè)分支，最小二乘支持向量機(jī)（Least Squares Suppo

2、rt Vector Machine，LSSVM）繼承了SVM在理論與應(yīng)用方面的許多研究成果。相對(duì)于SVM，LSSVM所具有的一些特性可以概括為：求解線性方程組，具有更快的求解速度，求解所需的計(jì)算資源較少，其解滿足極值條件。 本文首先闡述了論文研究背景和意義，介紹入侵檢測(cè)的模型、分類，比較了應(yīng)用于入侵檢測(cè)的不同方法的優(yōu)缺點(diǎn)。然后介紹了統(tǒng)計(jì)學(xué)習(xí)理論,支持向量機(jī)和最小二乘支持向量機(jī)的相關(guān)理論，提出了基于最小二乘支持向量機(jī)的網(wǎng)絡(luò)入侵檢測(cè)

3、系統(tǒng)模型，并對(duì)模型的各個(gè)組件的功能、機(jī)制，實(shí)現(xiàn)進(jìn)行了深入的探討。對(duì)用于入侵檢測(cè)的網(wǎng)絡(luò)數(shù)據(jù)特征，本文利用異構(gòu)數(shù)據(jù)集上的距離度量函數(shù)（Heterogeneous Value Difference Metric，HVDM）進(jìn)行特征數(shù)據(jù)的預(yù)處理，針對(duì)LSSVM喪失魯棒性的缺點(diǎn)，使用加權(quán)的方法增強(qiáng)其魯棒性，由于計(jì)算經(jīng)驗(yàn)風(fēng)險(xiǎn)的損失函數(shù)為二次函數(shù)形式，LSSVM喪失了標(biāo)準(zhǔn)支持向量機(jī)的稀疏性，導(dǎo)致了其訓(xùn)練完畢后，用于分類時(shí)的效率降低的特點(diǎn)，為使LSSV

4、M具有稀疏性，本文從統(tǒng)計(jì)分析的角度出發(fā)，應(yīng)用主成分分析的方法，對(duì)樣本集進(jìn)行特征提取，消除變量間的相關(guān)性，選取訓(xùn)練樣本中分類作用最大的若干樣本個(gè)體作為支持向量，并將非支持向量上的分類信息轉(zhuǎn)移至支持向量上，從而改善模型的預(yù)測(cè)精度和泛化能力，提出了新的LSSVM稀疏化算法—基于主成分分析的最小二乘支持向量機(jī)算法，在模擬實(shí)驗(yàn)中，選取徑向基核函數(shù)，將訓(xùn)練數(shù)據(jù)從低維空間映射到高維空間中，使數(shù)據(jù)在高維空間中能夠線性可分,并采用三步搜索法進(jìn)行參數(shù)的選擇