基于神經(jīng)網(wǎng)絡和返回導向編程的程序行為隱藏方法.pdf

1、程序是用計算機程序設計語言編寫的用于實現(xiàn)某種操作的指令集合，程序為了對抗逆向分析或者是代碼竊取，通常會采取一些自我保護技術(shù)，程序行為或者代碼隱藏技術(shù)屬于其中的一種。程序通過將自身的一些特定行為進行隱藏，增加攻擊者對二進制程序進行逆向工程的難度，同時使攻擊者無法分析程序的行為和結(jié)構(gòu)。惡意代碼通常會采取很多自我保護措施躲避殺毒軟件的檢測，雖然有很多種程序保護的方法，但是有的方法設計困難、有的方法會遺留特征、有的方法會增加程序復雜度、影響程序

2、性能以及有的方法隱藏強度不夠等。
　　本文提出了一種基于神經(jīng)網(wǎng)絡和返回導向編程（ Return-Oriented Programming，ROP）的程序行為隱藏方法，該方法利用神經(jīng)網(wǎng)絡的函數(shù)模擬功能，將程序中的關(guān)鍵條件分支和觸發(fā)ROP代碼的條件分支用神經(jīng)網(wǎng)絡函數(shù)替換，由于神經(jīng)網(wǎng)絡的黑盒性和不可解釋性，想要提取神經(jīng)網(wǎng)絡的復雜規(guī)則是不可能的；然后將程序中需要隱藏的特定行為的代碼用ROP技術(shù)中短指令工具（Gadgets）替換，不同于其他

3、隱藏技術(shù)，這里是完全的隱藏，程序中存儲的是這些Gadgets的地址（Payload）。本文通過將這些Payload動態(tài)的寫入到神經(jīng)網(wǎng)絡的存儲空間中，更加有效地對抗了特征匹配分析方法，比其它ROP技術(shù)有更好的隱蔽性。同時本文利用神經(jīng)網(wǎng)絡函數(shù)對ROP技術(shù)中的Payload進行自校驗，有效地抵抗了針對ROP技術(shù)的重寫或替換系統(tǒng)函數(shù)庫的攻擊，增強了本方法的強健性。
　　為了有效地體現(xiàn)本文所提方法對程序行為的隱藏效果和性能，本文分別對各種惡