第九講 神經(jīng)網(wǎng)絡秦中元東南大學信息科學與工程學院zyqin@

1、2009/10/21,1,第九講 神經(jīng)網(wǎng)絡秦中元東南大學信息科學與工程學院zyqin@seu.edu.cn,2009年東南大學碩士研究生課程模式識別(Pattern Recognition),2009/10/21,2,上講復習,特征提取的必要性類別可分性測度(Class Separability Criteria)離散K-L變換使用K-L變換實現(xiàn)特征提取K-L變換的其他應用特征選擇,2009/10/21,3,K-L

2、展開式系數(shù)的計算,求隨機向量x的自相關矩陣R=E{xxt}。求出自相關矩陣R的本征根 ?i和對應的本征向量 。得矩陣展開式系數(shù)即為a= ? txx可以表示為,2009/10/21,4,按K-L展開式選擇特征,K-L展開式系數(shù)aj也就是變換后的特征，用yj表示，寫成向量形式：y= ?Tx。此時變換矩陣?用m個特征向量組成。為使誤差最小，不采用的特征向量，其對應的特征值應盡可能小。因此，將特征值按大小次序標號，即若首

3、先采用前面的m個特征向量，便可使變換誤差最小。此時的變換矩陣為? = (?1 ? 2 … ? m),2009/10/21,5,本講內(nèi)容,神經(jīng)網(wǎng)絡的引入神經(jīng)網(wǎng)絡的基本概念BP學習算法,2009/10/21,6,感知器算法回顧,感知器算法屬于線性分類器：感知器算法可圖示如下：,2009/10/21,7,McCulloch-Pitts神經(jīng)元,典型的f為硬限幅函數(shù)(hard limiter)。將求和和激勵函數(shù)合并可表示

4、為：采用硬限幅函數(shù)的神經(jīng)元稱為McCulloch-Pitts神經(jīng)元。,2009/10/21,8,神經(jīng)網(wǎng)絡的引入—XOR運算,XOR運算是一個典型的非線性分類問題。邏輯運算分類圖,2009/10/21,9,利用感知器對OR進行分類,2009/10/21,10,以兩條直線來劃分XOR,問題相當于分成了兩步：1 確定兩條分界線，每個分界線實現(xiàn)對平面的一個分類；2 將第一步的結果組合起來，實現(xiàn)正確分類。,2009/10/21

5、,11,解決XOR分類的神經(jīng)網(wǎng)絡,XOR分類的分析兩層前饋神經(jīng)網(wǎng)絡第1層神經(jīng)元完成第1步的工作，稱為隱含層；第2層神經(jīng)元稱為輸出層；最前面還有輸入層。輸入層節(jié)點的個數(shù)？,,,,2009/10/21,12,兩層感知器的分類能力,前面隱含層的功能是把輸入的模式進行一個映射，映射到二維空間單位長度正方形的頂點。一般的兩層感知器結構：,2009/10/21,13,兩層感知器的分類能力,對于A類: (000,001,011),B類: (

6、010,100,110,111)的分類。但是對于A類: (000,111,110),其余B類無法實現(xiàn)正確分類。兩層感知器的分類能力有限。,2009/10/21,14,三層感知器的分類能力,三層感知器能夠解決任意區(qū)域組合的分類問題。,2009/10/21,15,神經(jīng)網(wǎng)絡的概念,神經(jīng)網(wǎng)絡是由大量簡單的基本元件—神經(jīng)元相互連接而成的自適應非線性動態(tài)系統(tǒng)。每個神經(jīng)元的結構和功能比較簡單，而大量神經(jīng)元組合產(chǎn)生的系統(tǒng)行為卻非常復雜。

7、經(jīng)典的McCulloch-Pitts模型：1943年提出，是神經(jīng)網(wǎng)絡研究的先驅(qū)。50年代Rosenblatt提出感知器。1982年Hopfield引入能量函數(shù)概念。1986年Rumelhart和McClelland提出著名的BP (Back Propagation)算法。該算法由后向前修正各層之間的連接權值，從實踐上證明了神經(jīng)網(wǎng)絡具有很強的運算能力。,2009/10/21,16,神經(jīng)網(wǎng)絡的幾個主要部分,神經(jīng)元功能函數(shù)硬限

8、幅(hard limit)函數(shù)Sigmoid函數(shù)連接形式前饋網(wǎng)絡反饋網(wǎng)絡學習算法誤差修正法,2009/10/21,17,BP算法,注意：不再采用硬限幅函數(shù)，而采用sigmoid函數(shù)定義一個準則函數(shù)迭代地調(diào)整權值，使得準則函數(shù)極小化假定：網(wǎng)絡有L層；訓練樣本對有N對。(y(i),x(i)),2009/10/21,18,某層的網(wǎng)絡結構,2009/10/21,19,BP算法過程,初始化。所有權值設為偽隨機數(shù)。前向