基于卷積神經(jīng)網(wǎng)絡的多標簽場景分類.pdf

1、不同于傳統(tǒng)的分類問題，多標簽分類是一類更復雜的分類任務。在傳統(tǒng)的分類問題中，每個樣本只有一個類別標簽。在多標簽分類中，每個樣本可以同時屬于多個類別。這類問題在文本分類，圖像識別，醫(yī)學診斷等領域應用廣泛。多標簽場景分類是多標簽分類在圖像識別中的一種應用。卷積神經(jīng)網(wǎng)絡(ConvolutionalNeural Networks，CNN)常常被用于圖像識別中，也是幾年來基于深度模型的圖像處理中最常用的模型。目前對CNN的研究主要集中在深度模型領

2、域，更多的層數(shù)，更復雜的網(wǎng)絡是目前的研究趨勢。然而并不是所有問題都需要一個復雜的深度網(wǎng)絡，在一些相對受限的領域，如場景分類，使用相對簡單的網(wǎng)絡就夠了。尤其是一些訓練數(shù)據(jù)集比較小的問題，淺層網(wǎng)絡幾乎是必然的選擇。另外，在深度模型的研究中，出現(xiàn)了一些在深度模型上表現(xiàn)很好的技巧，如Relu激活函數(shù)，dropout等，這些技巧對淺層網(wǎng)絡的適用性也沒有人研究。
　　本文將CNN用于多標簽場景分類。不同于傳統(tǒng)CNN的訓練，本文首先介紹使用非監(jiān)

3、督的方法訓練CNN的卷積核，包括針對低分辨率小圖像數(shù)據(jù)集所使用的一些正則化技巧。然后使用CNN提取圖像的特征，使用邏輯回歸來分類，并使用多種評價標準來評價分類結(jié)果。
　　本文使用非監(jiān)督自動編碼器來訓練CNN的卷積核。自動編碼器是一個三層全連接的神經(jīng)網(wǎng)絡，由于在訓練的時候不需要標簽，所以編碼器的訓練方法是非監(jiān)督的。編碼器訓練的目的是學習到輸入數(shù)據(jù)的更好的特征表示，以便用來訓練更好的分類器。為了學到更好的特征表示，本文對輸入樣本做了Z

4、CA白化，以消除相鄰像素點之間的相關性，使網(wǎng)絡隱含層節(jié)點數(shù)遠多于輸入層，并在訓練過程中對隱含層節(jié)點的激活數(shù)量加以限制，以學到稀疏的特征。
　　訓練完卷積核后，本文使用邏輯回歸做圖像分類。在卷積層上加一個子采樣層和一個邏輯回歸層，就組成了本文使用的網(wǎng)絡結(jié)構。子采樣層用于降低特征維度，降低網(wǎng)絡結(jié)構的復雜性，并能使得輸入特征有一些轉(zhuǎn)換，縮放等的不變性。在這個網(wǎng)絡結(jié)構中，本文實驗了Relu，dropout等技巧，并在理論上分析了這些技巧的