多層感知器的模糊線性分析及應(yīng)用.pdf

1、對(duì)神經(jīng)網(wǎng)絡(luò)內(nèi)部行為的研究一直是神經(jīng)網(wǎng)絡(luò)研究領(lǐng)域的一大課題，特別是對(duì)應(yīng)用廣泛的多層感知器的研究?jī)r(jià)值尤為突出。研究結(jié)果對(duì)深入了解神經(jīng)網(wǎng)絡(luò)的內(nèi)部行為、優(yōu)化網(wǎng)絡(luò)、提高網(wǎng)絡(luò)性能以及知識(shí)提取等都有著積極的作用。 線性判別函數(shù)理論是線性分類器的分析基礎(chǔ)，不適于非線性分類器。對(duì)于簡(jiǎn)單的完成線性分類功能的感知器，已經(jīng)有系統(tǒng)的理論指導(dǎo)，但是對(duì)于復(fù)雜得多的多層感知器，目前尚無系統(tǒng)的理論指導(dǎo)，仍處在發(fā)展階段。在模式識(shí)別經(jīng)典判別函數(shù)理論的基礎(chǔ)上，結(jié)合模糊

2、集合理論，對(duì)用于模式識(shí)別和分類的多層感知器的行為進(jìn)行的分析，借用經(jīng)典判別函數(shù)理論的概念，把非線性激勵(lì)函數(shù)視作隸屬度函數(shù)，提出了模糊線性判別函數(shù)、模糊判別面和模糊線性分類器的概念，得到了如下結(jié)論F-LDF：1)模糊線性判別函數(shù)net(X)=WTX+b通過超平面(判別邊界)net(X)=0將特征空間分割(帶有模糊區(qū)域)；2)該神經(jīng)元的權(quán)重向量W是模糊判別面的法線向量，確定了模糊判別面的朝向；3)原點(diǎn)到判別面的距離為r=-b/‖W‖，偏移量b

3、決定著模糊判別面的位置，改變偏移量b值即移動(dòng)模糊判別面相對(duì)于原點(diǎn)的距離。 利用該概念，對(duì)用于模式識(shí)別和分類的多層感知器的分類行為進(jìn)行了解釋，使得對(duì)多層感知器分類行為的認(rèn)識(shí)更加明晰。 在此基礎(chǔ)上，利用該概念對(duì)多層感知器的權(quán)重進(jìn)行分析，得到了如下結(jié)論： 1)H個(gè)隱層神經(jīng)元產(chǎn)生H個(gè)模糊超平面將特征空間分割(帶有模糊區(qū))。 2)由于隱層神經(jīng)元權(quán)重初始向量W0垂直于各初始判別面，所以，H個(gè)權(quán)重初始向量均勻分布在權(quán)重

4、空間中一個(gè)超球面上，意味著在特征空間設(shè)定了離原點(diǎn)距離r=-b/‖W‖的H個(gè)判別面，它們是某超球面的切面(超平面)，均勻分布(盡可能多朝向)在特征空間中。當(dāng)對(duì)某問題求解時(shí)，所需要的任何方向的局部判別面，都有與之較接近的初始判別面存在，這意味著學(xué)習(xí)過程比較容易實(shí)現(xiàn)。與此不同，權(quán)重隨機(jī)初始化使這H個(gè)超平面的朝向隨機(jī)分布，有可能以大概率分布在與最終需要的超平面相差甚遠(yuǎn)的方向上，學(xué)習(xí)過程對(duì)超平面的調(diào)整將較困難，甚至不能調(diào)整到需要的位置(學(xué)習(xí)過程不

5、收斂)。 3)偏移量b與權(quán)重參數(shù)在學(xué)習(xí)過程中改變，即調(diào)整模糊判別面的位置，從而最終在輸出層產(chǎn)生該問題所需要的判別邊界。 根據(jù)上述結(jié)論，得出了將網(wǎng)絡(luò)的初始權(quán)重初始化在超球上的方法。通過若干典型模式分類問題的實(shí)驗(yàn)驗(yàn)證，表明該方法能夠顯著提高多層感知器的收斂性能和分類能力。 醫(yī)學(xué)領(lǐng)域的臨床診斷屬于模式識(shí)別的范疇，將多層感知器應(yīng)用于醫(yī)學(xué)臨床診斷中需要解決原始數(shù)據(jù)處理、輸入數(shù)據(jù)降維、保證正確率的前提下提高泛化能力等問題。統(tǒng)