基于FPGA的大規(guī)模脈沖深度神經(jīng)網(wǎng)絡(luò)片上系統(tǒng)設(shè)計與研究.pdf

1、自深度神經(jīng)網(wǎng)絡(luò)被提出以來，就因其在處理實際問題中所表現(xiàn)的優(yōu)秀性能而成為人工神經(jīng)網(wǎng)絡(luò)的主流研究方向。但是，隨著深度神經(jīng)網(wǎng)絡(luò)研究的不斷深入以及處理問題的復(fù)雜度不斷增加，深度神經(jīng)網(wǎng)絡(luò)的網(wǎng)絡(luò)規(guī)模和網(wǎng)絡(luò)計算復(fù)雜度也隨之成倍提升。總體來說，在深度神經(jīng)網(wǎng)絡(luò)的計算中存在著存儲復(fù)雜度高，計算復(fù)雜度高，數(shù)據(jù)傳輸帶寬大的挑戰(zhàn)。
　　論文的研究目的是設(shè)計一種面向嵌入式系統(tǒng)的深度神經(jīng)網(wǎng)絡(luò)計算協(xié)處理器，用以實現(xiàn)低功耗，高效的大規(guī)模深度神經(jīng)網(wǎng)絡(luò)實時計算。論文通

2、過對包括對深度置信網(wǎng)絡(luò)和卷積神經(jīng)網(wǎng)絡(luò)兩種網(wǎng)絡(luò)模型的主流神經(jīng)網(wǎng)絡(luò)模型中存在的計算和存儲復(fù)雜的問題進行研究，提出了一種面向硬件友好的脈沖深度神經(jīng)網(wǎng)絡(luò)模型及其訓(xùn)練算法，并且據(jù)此設(shè)計了一種基于片上系統(tǒng)的，具有可擴展性和一致性的高速脈沖深度神經(jīng)網(wǎng)絡(luò)計算協(xié)處理器。
　　論文的主要研究成果如下：
　?、偬岢隽艘环N脈沖驅(qū)動的深度神經(jīng)網(wǎng)絡(luò)模型及其訓(xùn)練算法。論文通過綜合分析具有較強實際問題處理能力的深度神經(jīng)網(wǎng)絡(luò)模型以及在硬件實現(xiàn)中具有易于實現(xiàn)和

3、低功耗特點的脈沖神經(jīng)網(wǎng)絡(luò)模型，提出了包含脈沖深度置信網(wǎng)絡(luò)和脈沖卷積神經(jīng)網(wǎng)絡(luò)在內(nèi)的脈沖深度神經(jīng)網(wǎng)絡(luò)模型及其訓(xùn)練算法。
　?、谠O(shè)計了一種通用的脈沖深度神經(jīng)網(wǎng)絡(luò)存儲和計算硬件架構(gòu)。為了實現(xiàn)兼容脈沖深度置信網(wǎng)絡(luò)和脈沖卷積神經(jīng)網(wǎng)絡(luò)兩種網(wǎng)絡(luò)模型的存儲和計算，論文提出了將兩種網(wǎng)絡(luò)模型轉(zhuǎn)換得到一致的稀疏前饋網(wǎng)絡(luò)結(jié)構(gòu)，然后設(shè)計了一種基于索引查找表的一致性硬件架構(gòu)來實現(xiàn)對轉(zhuǎn)換后的脈沖深度神經(jīng)網(wǎng)絡(luò)進行計算，并且在硬件架構(gòu)設(shè)計中引入了層次化流水和低功耗的