一種新的基于無損失函數(shù)的深度卷積神經(jīng)網(wǎng)絡(luò)的圖像特征提取方法.pdf

1、作為人工智能的重要技術(shù)之一，圖像識別技術(shù)已經(jīng)在社會的各個領(lǐng)域被廣泛應(yīng)用。例如:集裝箱號碼圖像自動識別，人臉圖像識別，病理圖像自動識別等等。對于一個成熟的圖像識別系統(tǒng)，其主要步驟可以分為四步:圖像采集與預(yù)處理，目標圖像定位和分割，圖像特征提取，特征識別與分類。其中，圖像特征提取是其最為重要的組成步驟。提取到的圖像特征的質(zhì)量直接影響著最終的分類結(jié)果。近年來，隨著深度學(xué)習(xí)的發(fā)展，越來越多的圖像特征提取采用了深度學(xué)習(xí)技術(shù)。由于深度卷積神經(jīng)網(wǎng)絡(luò)本

2、身獨特的結(jié)構(gòu)優(yōu)勢，使其成為眾多給予深度學(xué)習(xí)的圖像識別程序中最為主流的圖像特征提取手段。然而，由于目前深度學(xué)習(xí)研究趨勢向著多層次，更復(fù)雜的方向，訓(xùn)練一個收斂的深度網(wǎng)絡(luò)難度越來越高，不僅需要調(diào)整越來越多的參數(shù)，還需要保證其損失函數(shù)的收斂性，有時候還需要整合一些現(xiàn)有的訓(xùn)練技巧，例如dropout，maxout等。近年來，隨著簡單深度學(xué)習(xí)結(jié)構(gòu)的提出，越來越多的研究人員著眼于這種無損失函數(shù)的深度學(xué)習(xí)模型。其中，最為著名的是PCANet深度卷積網(wǎng)絡(luò)

3、模型。其無損失函數(shù)的特性使得網(wǎng)絡(luò)訓(xùn)練的難度大大降低。然而，由于其選擇使用的無監(jiān)督的主成分分析(Principal ComponentAnalysis，PCA)算法進行卷積核的訓(xùn)練，使得最終的圖像識別效果并不是那么理想。雖然隨后基于監(jiān)督學(xué)習(xí)的線性判別式分析(Linear Discriminant Analysis，LDA)方法來訓(xùn)練卷積核的深度學(xué)習(xí)模型LDANet被提出，但是由于LDA算法自身正負樣本分離能力的局限性，使得LDANet模型

4、的圖像識別結(jié)果并無顯著提升。并且，因為其特有的下采樣方式，使其極易產(chǎn)生過度擬合現(xiàn)象。使得訓(xùn)練效果不盡如人意。
　　在此論文中，針對PCANet與LDANet所出現(xiàn)的問題，主要做出了以下的貢獻:
　　1)本文基于PCANet的基本結(jié)構(gòu)，創(chuàng)造性地將Marginal Fisher Analysis(MFA)引入卷積核的訓(xùn)練，提出了一種新的簡單深度學(xué)習(xí)架構(gòu)MFANet。由于MFA采取監(jiān)督學(xué)習(xí)的方式，并且通過提取后的特征向量進行映射，

5、使得投影后的正樣本之間的距離盡可能小，同時保證負樣本之間的距離盡可能大。使得卷積同類圖像所得的特征與卷積后的異類圖像特征在新的特征空間得以有效分離。本文運用標準數(shù)據(jù)集:字符識別數(shù)據(jù)集ICDAR2003，測試所提出的深度模型的識別性能，并且通過和一些流行的圖像特征提取模型進行比較，最終的圖像分類的結(jié)果表明MFANet模型的特征提取能力比其他深度模型要好。
　　2)本文提出了一種新的下采樣方法:基于概率的塊級隨機直方圖化，來解決基于P