虛擬樣本生成技術(shù)及建模應(yīng)用研究.pdf

1、“大數(shù)據(jù)”時(shí)代，在很多領(lǐng)域，數(shù)據(jù)海量，知識貧乏，需要通過數(shù)據(jù)挖掘發(fā)現(xiàn)知識，數(shù)據(jù)驅(qū)動建模成為研究熱點(diǎn)，而數(shù)據(jù)樣本個(gè)數(shù)不充分、樣本代表性不典型或者樣本分布不均勻等嚴(yán)重制約數(shù)據(jù)驅(qū)動建模的質(zhì)量。在大數(shù)據(jù)背景下，不可忽視的一個(gè)重要問題就是大數(shù)據(jù)、小樣本問題。這個(gè)問題主要源于數(shù)據(jù)獲取成本較高、或數(shù)據(jù)重復(fù)或發(fā)生概率較小等原因，致使面臨有用數(shù)據(jù)有限?；谛颖救绾芜M(jìn)行有效建模是計(jì)算智能領(lǐng)域的一個(gè)重要研究方向，具有十分重要的理論研究意義和應(yīng)用價(jià)值。

2、>　　解決小樣本問題，目前學(xué)術(shù)界主要有基于灰色理論與機(jī)器學(xué)習(xí)的方法和生成虛擬樣本的方法等兩種途徑。基于小樣本數(shù)據(jù)產(chǎn)生新的有效數(shù)據(jù)是補(bǔ)充數(shù)據(jù)的一種有效方法，虛擬樣本生成技術(shù)是解決小樣本問題的重要研究方向。在大量文獻(xiàn)閱讀、歸納、總結(jié)的基礎(chǔ)上，本文將針對監(jiān)督式和非監(jiān)督式機(jī)器學(xué)習(xí)算法所對應(yīng)的標(biāo)簽數(shù)據(jù)和無標(biāo)簽數(shù)據(jù)的小樣本問題，開展基于小樣本的虛擬樣本產(chǎn)生、優(yōu)化和應(yīng)用研究，以產(chǎn)生充足的有效數(shù)據(jù)集，進(jìn)而開展神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)和算法研究以提出數(shù)據(jù)驅(qū)動的智能建

3、模新方法，并開展工程建設(shè)費(fèi)用風(fēng)險(xiǎn)分析應(yīng)用研究。本文的主要研究內(nèi)容如下:
　　(1)基于整體擴(kuò)散技術(shù)的虛擬樣本生成新方法。整體趨勢擴(kuò)散技術(shù)是一種有效的基于分布的虛擬樣本生成技術(shù)，但現(xiàn)有技術(shù)只考慮了在原始樣本區(qū)域和擴(kuò)散區(qū)域采用同一種數(shù)據(jù)分布方法產(chǎn)生虛擬樣本，并且增加虛擬輸入屬性使輸入空間倍增。本文在此基礎(chǔ)上，在已知小樣本區(qū)域采用不均勻分布、在拓展區(qū)域采用均勻分布兩種方式相結(jié)合，通過多分布整體擴(kuò)散技術(shù)推估小樣本屬性可接受范圍，同時(shí)為了不

4、增加輸入屬性，不再求取隸屬度函數(shù)值代表樣本點(diǎn)發(fā)生的可能性作為模型的虛擬輸入屬性，由此形成了一種更有效的虛擬樣本產(chǎn)生新機(jī)制，提出了一種新穎的多分布整體趨勢擴(kuò)散技術(shù)(MD-MTD)。通過標(biāo)準(zhǔn)函數(shù)和工業(yè)數(shù)據(jù)集驗(yàn)證了所提方法的有效性。
　　(2)基于優(yōu)化技術(shù)的虛擬樣本生成新方法。為了解決虛擬樣本的優(yōu)化問題，在MD-MTD的基礎(chǔ)上，本文提出了基于三角隸屬函數(shù)的信息擴(kuò)散方法(TMIE)，進(jìn)而提出了一種新的確定上下拓展區(qū)域界限的方法，基于改進(jìn)的

5、MD-MTD產(chǎn)生虛擬樣本，采用PSO對所產(chǎn)生的輸入屬性的虛擬樣本進(jìn)行優(yōu)化計(jì)算，獲得更合適的虛擬樣本，由此提出了PSO-MD-MTD方法。通過標(biāo)準(zhǔn)函數(shù)和工業(yè)數(shù)據(jù)集驗(yàn)證了所提方法的有效性。
　　(3)基于插值的虛擬樣本生成新方法。基于分布的虛擬樣本生成技術(shù)是基于小樣本建立的模型，由此本文研究建立一種合理有效的基于小樣本的神經(jīng)網(wǎng)絡(luò)模型，進(jìn)而根據(jù)所建模型的線性和非線性結(jié)構(gòu)特點(diǎn)進(jìn)行虛擬樣本的生成。為此，本文提出了一種極限學(xué)習(xí)機(jī)隱含層插值的虛

6、擬樣本生成方法(IVSG)，對極限學(xué)習(xí)機(jī)隱含層的輸出數(shù)據(jù)進(jìn)行中值插值產(chǎn)生相應(yīng)的虛擬樣本，再由隱含層輸出數(shù)據(jù)的虛擬樣本前后反推輸出層輸出和輸入層輸入空間的虛擬數(shù)據(jù)。通過標(biāo)準(zhǔn)函數(shù)和工業(yè)數(shù)據(jù)集驗(yàn)證了所提方法的有效性，并對IVSG、PSO-MD-MTD和MD-MTD進(jìn)行比較，分析不同方法的適用性。
　　(4)基于偏最小二乘法的函數(shù)連接神經(jīng)網(wǎng)絡(luò)建模新方法。在解決數(shù)據(jù)樣本有效性問題的基礎(chǔ)上，利用數(shù)據(jù)驅(qū)動建模思想來挖掘數(shù)據(jù)背后隱藏的知識就是一項(xiàng)

7、十分重要的工作。為了有效解決函數(shù)連接神經(jīng)網(wǎng)絡(luò)中共線性數(shù)據(jù)問題和有效地挖掘有限數(shù)據(jù)背后的知識信息，本文結(jié)合極限學(xué)習(xí)機(jī)模型，提出采用偏最小二乘學(xué)習(xí)算法取代函數(shù)連接神經(jīng)網(wǎng)絡(luò)原模型誤差反向傳播算法來求取模型參數(shù)，由此提出了一種基于偏最小二乘學(xué)習(xí)算法的函數(shù)連接神經(jīng)網(wǎng)絡(luò)模型（PLSR-FLNN），通過兩個(gè)工業(yè)實(shí)例數(shù)據(jù)集驗(yàn)證了所提方法的有效性，與其它四種建模方法比較驗(yàn)證了所提方法的先進(jìn)性。
　　(5)基于蒙特卡洛方法擴(kuò)充樣本實(shí)現(xiàn)工程建設(shè)費(fèi)用風(fēng)險(xiǎn)

8、分析與評估。在解決監(jiān)督學(xué)習(xí)中數(shù)據(jù)和建模問題的基礎(chǔ)上，本文針對非監(jiān)督學(xué)習(xí)中的數(shù)據(jù)問題開展研究工作。重點(diǎn)探討Monte Carlo在工程建設(shè)費(fèi)用風(fēng)險(xiǎn)分析中的不確定性小樣本問題，提出基于蒙特卡洛模擬的樣本補(bǔ)充方法，在此基礎(chǔ)上，根據(jù)數(shù)據(jù)樣本估計(jì)費(fèi)用項(xiàng)的概率分布和概率密度函數(shù)，同時(shí)采用蒙特卡洛模擬和市場因素驅(qū)動，并結(jié)合李克特量表分析法，對各影響因素進(jìn)行綜合分析與評價(jià)，由此提出一種實(shí)用的工程建設(shè)費(fèi)用風(fēng)險(xiǎn)分析方法，通過實(shí)際工程案例驗(yàn)證了所提方法的有效