集成Logistic和SVM的分類算法研究.pdf

1、 集成 Logistic 和 SVM 的分類算法研究 重慶大學碩士學位論文 學生姓名：謝 玲 指導教師：劉瓊蓀 教 授 專 業(yè)：概率論與數(shù)理統(tǒng)計 學科門類：理 學 重慶大學數(shù)學與統(tǒng)計學院 二 O 一一年四月 重慶大學碩士學位論文 中文摘要 I 摘 要 分類是數(shù)據(jù)分析與機器學習領域的基本問題之一，國內外學者對分類算法的研究已有大量的成果。Logistic 回歸模型是一種應用最為廣泛的多元量化分析技術，其特點是穩(wěn)健性好，模型

2、的可解釋性較強。支持向量機（SVM）是由 Vapnik提出的統(tǒng)計學習理論發(fā)展而來，它在處理小樣本、非線性以及高維數(shù)等問題時具有一些獨特的優(yōu)勢。目前，SVM 已經成為機器學習領域的研究熱點。 傳統(tǒng)的 Logistic 回歸用于二分類的方法一般以 0.5 為分界點，這樣可能存在較大的誤判風險，尤其是對于 0.5 附近模糊區(qū)間的樣本點。針對 logistic 回歸處理分類問題的不足， 本文將支持向量機引入到傳統(tǒng)的 Logistic 回歸分類方

3、法中， 利用支持向量機的輸出結果為 Logistic 回歸提供支持信念，減少 Logistic 回歸中的誤判風險，從而提高分類的正確率。 本文首先概述了 Logistic 回歸模型的原理、 推導和檢驗， 接著詳細介紹了支持向量機及其相關理論，包括機器學習的基本理論、統(tǒng)計學習理論、SVM 分類算法以及模型參數(shù)的選擇等。 然后， 在深入分析 Logistic 回歸和支持向量機理論的基礎上， 本文構造了一種集成 Logistic 回歸與支持向