深度神經網絡音素識別系統(tǒng)及其隱藏層研究.pdf

1、經過近半個世紀的積累和醞釀，語音識別技術在最近幾年達到了大規(guī)模商業(yè)應用水平。而最近五年來，深度神經網絡（Deep Neural Network,DNN）的出現(xiàn)給語音識別帶來了新的突破。盡管深度神經網絡在語音領域取得了巨大的成功，但其內在的機制及原理目前仍不清楚。本研究通過初步探索深度神經網絡的隱藏層的功能與作用來研究這一問題，探索深度神經網絡隱藏層與語音生成感知機理（音素的發(fā)音位置）之間的關系。
　　本工作首先分別構建了漢語、英語

2、、日語三種語言的深度神經網絡音素識別系統(tǒng)，為了后續(xù)實驗有可對比性，三個網絡的結構配置均相同，采用目前同用的7層，2048節(jié)點/層的結構。根據數據庫的可靠程度，選取英語和日語的深度神經網絡進行隱藏層研究。由于神經網絡的某一隱藏層無法被單獨研究，所以本研究采用去掉一層或替換一層的方法，通過識別結果的變化，來反推被去層或被換層的作用。我們分別對英語和日語進行了去層實驗，并用日語網絡隱藏層對應替換英語隱藏層進行了換層實驗。從分析結果可以看出，神

3、經網絡的不同隱藏層主要負責的音素可以大致按照發(fā)音位置進行分類：較低層主要負責后元音，較高層主要負責前元音；神經網絡的第二層對發(fā)音約束位置靠前的輔音更敏感，而其余的輔音更依賴中間層。換層實驗說明上述結論在不同的語言間存在共通性。
　　本工作作為對深度神經網絡隱藏層的初步研究，只是作了簡單的定性分析，在同類領域中，本研究提出一種新穎的方法來分析神經網絡的隱藏層，第一次將研究重點放在深度神經網絡的每一隱藏層上；第一次將人的發(fā)音機理加入深