bp神經(jīng)網(wǎng)絡原理及應用

1、BP 神經(jīng)網(wǎng)絡原理及應用 神經(jīng)網(wǎng)絡原理及應用1 人工神經(jīng)網(wǎng)絡簡介 人工神經(jīng)網(wǎng)絡簡介1.1 生物神經(jīng)元模型 生物神經(jīng)元模型神經(jīng)系統(tǒng)的基本構(gòu)造是神經(jīng)元（神經(jīng)細胞） ，它是處理人體內(nèi)各部分之間相互信息傳遞的基本單元。據(jù)神經(jīng)生物學家研究的結(jié)果表明，人的大腦一般有個神經(jīng)元。每個神經(jīng)元都由一個細胞體，一個連接其他神經(jīng)元的軸突 10 11 10 10 ?和一些向外伸出的其它較短分支——樹突組成。軸突的功能是將本神經(jīng)元的輸 出信號（興奮）傳遞給別的神經(jīng)

2、元。其末端的許多神經(jīng)末梢使得興奮可以同時送給多個神經(jīng)元。樹突的功能是接受來自其它神經(jīng)元的興奮。神經(jīng)元細胞體將接受到的所有信號進行簡單地處理后由軸突輸出。神經(jīng)元的樹突與另外的神經(jīng)元的神經(jīng)末梢相連的部分稱為突觸。1.2 人工神經(jīng)元模型 人工神經(jīng)元模型神經(jīng)網(wǎng)絡是由許多相互連接的處理單元組成。這些處理單元通常線性排列成 組，稱為層。每一個處理單元有許多輸入量，而對每一個輸入量都相應有一個相關(guān) 聯(lián)的權(quán)重。處理單元將輸入量經(jīng)過加權(quán)求和，并通過傳遞函

3、數(shù)的作用得到輸出 量，再傳給下一層的神經(jīng)元。目前人們提出的神經(jīng)元模型已有很多，其中提出最早且影（２）無師學習 無師學習算法不需要知道期望輸出。在訓練過程中，只要向神 經(jīng)網(wǎng)絡提供輸入模式，神經(jīng)網(wǎng)絡就能夠自動地適應連接權(quán)，以便按相似特征把輸入模式分組聚集。無師學習算法的例子包括 Kohonen 算法和 Carpenter- Grossberg 自適應共振理論（ART）等。 （３）強化學習 如前所述，強化學習是有師學習的特例。它不需要老師給出

4、目標輸出。強化學習算法采用一個“評論員”來評價與給定輸入相對應的神。2 BP 神經(jīng)網(wǎng)絡原理 神經(jīng)網(wǎng)絡原理2.1 基本 基本 BP 算法公式推導 算法公式推導基本 BP 算法包括兩個方面：信號的前向傳播和誤差的反向傳播。即計算實際輸出時按從輸入到輸出的方向進行，而權(quán)值和閾值的修正從輸出到輸入的方向進行。1 a 1 ?ki wij wL ak aq ?i ?……… ………1 xj xM x1 ok oL o輸出變量輸入變量輸入層 隱含層 輸

5、出層?????????圖 2-1 BP 網(wǎng)絡結(jié)構(gòu)Fig.2-1 Structure of BP network圖中： j x 表示輸入層第 j 個節(jié)點的輸入，j=1,…,M；ij w 表示隱含層第 i 個節(jié)點到輸入層第 j 個節(jié)點之間的權(quán)值；i ? 表示隱含層第 i 個節(jié)點的閾值；( ) x ? 表示隱含層的激勵函數(shù)；ki w 表示輸出層第 k 個節(jié)點到隱含層第 i 個節(jié)點之間的權(quán)值，i=1,…,q；k a 表示輸出層第 k 個節(jié)點的閾