基于Log-det正則化的半徑-間隔學(xué)習(xí)方法及其應(yīng)用.pdf

1、半徑-間隔學(xué)習(xí)方法作為機(jī)器學(xué)習(xí)領(lǐng)域較為熱門的研究方向之一，在分類和識(shí)別等應(yīng)用中得到了廣泛的關(guān)注。半徑信息的變化隱含在特征變換過程中，對(duì)于分類器的性能優(yōu)化起著重要的作用?，F(xiàn)有的半徑-間隔學(xué)習(xí)方法均存在一定的缺陷和不足，限制分類器性能的進(jìn)一步提升，同時(shí)算法的計(jì)算效率也有待提高。
　　針對(duì)上述問題，本文從模型優(yōu)化的角度出發(fā)，構(gòu)建了一個(gè)高效的基于Log-det正則化的半徑-間隔支持向量機(jī)模型（L-SVM）。由于傳統(tǒng)的半徑-間隔SVM屬于有

2、約束的非凸模型，本文首先通過對(duì)半徑R進(jìn)行約束近似，將原始問題轉(zhuǎn)化為無約束的凸優(yōu)化模型，并采用Log-det正則化項(xiàng)進(jìn)一步降低模型過擬合的可能性，同時(shí)給出了高效的算法求解策略。后續(xù)在多個(gè)UCI數(shù)據(jù)集上的線性和非線性分類結(jié)果驗(yàn)證了模型的有效性。其次，為了驗(yàn)證模型的泛化能力，我們將提出的模型應(yīng)用于動(dòng)作識(shí)別任務(wù)中，通過對(duì)視頻提取多種局部特征，并采用Fisher Vector進(jìn)行編碼，最終用L-SVM分類器進(jìn)行分類。實(shí)驗(yàn)結(jié)果表明本文提出的模型具備

3、良好的泛化能力，能夠適用于各項(xiàng)不同的分類識(shí)別任務(wù)。
　　通過將逐層次的特征提取和分類器學(xué)習(xí)相結(jié)合，卷積神經(jīng)網(wǎng)絡(luò)（CNN）在計(jì)算機(jī)視覺的多項(xiàng)任務(wù)中都取得了優(yōu)異的性能。受此啟發(fā)，本文將L-SVM模型嵌入到CNN框架中，通過交替迭代優(yōu)化的方法提升動(dòng)作識(shí)別的性能。為了提升CNN特征的區(qū)分能力，本文還將center正則化項(xiàng)加入到目標(biāo)函數(shù)當(dāng)中，保證在最大化類間間隔的同時(shí)最小化類內(nèi)間隔。此外，本文也嘗試在CNN網(wǎng)絡(luò)中間層加入監(jiān)督信息，以進(jìn)一步提