基于主成分估計(jì)的極限學(xué)習(xí)機(jī)及其應(yīng)用研究.pdf

1、極限學(xué)習(xí)機(jī)(Extreme Learning Machine，ELM)是一種新型的單隱層前饋神經(jīng)網(wǎng)絡(luò)，有著結(jié)構(gòu)簡單、泛化能力強(qiáng)以及學(xué)習(xí)速度快等優(yōu)點(diǎn)，近年來得到了國內(nèi)外諸多學(xué)者的廣泛研究和應(yīng)用。但當(dāng)隱層設(shè)計(jì)矩陣列與列之間存在復(fù)共線性時(shí)，設(shè)計(jì)矩陣變成非滿秩矩陣，最小二乘估計(jì)由此計(jì)算出的輸出權(quán)值穩(wěn)健性不足。針對這一問題，本文借鑒主成分估計(jì)方法，提出主成分極限學(xué)習(xí)機(jī)，利用主成分估計(jì)來計(jì)算極限學(xué)習(xí)機(jī)的輸出權(quán)值，可以有效提高ELM的魯棒性。本文主要

2、針對以下幾個(gè)方面展開了研究：
　　(1)介紹了極限學(xué)習(xí)機(jī)的產(chǎn)生背景和發(fā)展，總結(jié)了近年來極限學(xué)習(xí)機(jī)的國內(nèi)外的研究狀況，對極限學(xué)習(xí)機(jī)的理論進(jìn)行了介紹和分析，重點(diǎn)分析了極限學(xué)習(xí)機(jī)存在的缺點(diǎn)和不足。
　　(2)闡述了最小二乘估計(jì)的具體實(shí)現(xiàn)過程，以及最小二乘估計(jì)存在的問題，介紹了穩(wěn)健估計(jì)理論中的M估計(jì)、嶺估計(jì)和主成分估計(jì)，分析了它們各自的特點(diǎn)。
　　(3)針對在隱層設(shè)計(jì)矩陣存在復(fù)共線性時(shí)，經(jīng)典最小二乘估計(jì)的輸出權(quán)值存在較大偏差這

3、一問題，我們提出了一種結(jié)合主成分估計(jì)的極限學(xué)習(xí)機(jī)算法(PC-ELM)，用主成分估計(jì)來替換最小二乘估計(jì)計(jì)算輸出權(quán)值，降低隱層設(shè)計(jì)矩陣復(fù)共線性對輸出權(quán)值計(jì)算帶來的干擾。
　　(4)為了驗(yàn)證PC-ELM的有效性，對比了目前比較流行的幾種ELM學(xué)習(xí)算法，通過大量回歸實(shí)驗(yàn)與分類實(shí)驗(yàn)，驗(yàn)證了本文提出的PC-ELM算法在保留了極限學(xué)習(xí)機(jī)的學(xué)習(xí)速度快、結(jié)構(gòu)簡單、泛化性能強(qiáng)等優(yōu)勢外，能夠有效的改善病態(tài)隱層設(shè)計(jì)矩陣導(dǎo)致的輸出權(quán)值計(jì)算穩(wěn)健性不足問題。<

4、br>　　(5)系統(tǒng)的介紹了高鋁粉煤灰提出氧化鋁的生產(chǎn)工藝流程，以及回轉(zhuǎn)窯生產(chǎn)氧化鋁的工藝特點(diǎn)。分析了對熟料燒結(jié)起決定性作用的燒結(jié)帶溫度建模存在的難度和問題，提出了采用主成分極限學(xué)習(xí)機(jī)來對燒結(jié)帶溫度進(jìn)行建模。用專家控制系統(tǒng)采集的熱工參數(shù)作為樣本，PC-ELM作為網(wǎng)絡(luò)模型訓(xùn)練學(xué)習(xí)算法。實(shí)驗(yàn)結(jié)果跟ELM算法和BP神經(jīng)網(wǎng)絡(luò)算法進(jìn)行了對比，實(shí)驗(yàn)結(jié)果表明采用本文提出的PC-ELM能夠?qū)Y(jié)帶溫度實(shí)現(xiàn)精準(zhǔn)的軟測量建模，得到的預(yù)測溫度結(jié)果優(yōu)于ELM算