模糊測試應(yīng)用于二進制程序的漏洞發(fā)現(xiàn)方法研究.pdf

1、程序漏洞是網(wǎng)絡(luò)安全的根源問題之一，如何快速發(fā)現(xiàn)程序漏洞是目前安全領(lǐng)域的一個研究熱點，特別是基于二進制程序的漏洞發(fā)現(xiàn)技術(shù)研究由于其廣泛的適用性和難度更是目前研究的前沿領(lǐng)域。目前，已有的程序發(fā)現(xiàn)技術(shù)包括靜態(tài)分析技術(shù)、動態(tài)分析技術(shù)和滲透測試技術(shù)，其中動態(tài)分析技術(shù)中的模糊測試方法因為其高性價比:簡單的思想、出色的漏洞發(fā)現(xiàn)數(shù)量，成為安全研究人員和黑客使用最廣泛的漏洞發(fā)現(xiàn)技術(shù)。然而，傳統(tǒng)的模糊測試存在兩個關(guān)鍵問題:(1)生成的測試數(shù)據(jù)質(zhì)量不高，表現(xiàn)

2、為測試深度和廣度不夠(2)漏洞確認階段需要大量的人工參與。
　　針對模糊測試的數(shù)據(jù)生成問題，本文將其歸約為邏輯領(lǐng)域的公式可滿足性問題，使用動態(tài)符號執(zhí)行作為歸約實現(xiàn)手段。本文基于中間語言BIL介紹了動態(tài)符號執(zhí)行用于測試數(shù)據(jù)生成的基本理論和作為動態(tài)符號執(zhí)行重要性能優(yōu)化措施的動態(tài)污點分析理論，包括符號引入、符號演算、搜索策略、SMT求解器、污點分析策略和主要的難題。在此基礎(chǔ)上，本文設(shè)計并實現(xiàn)了一個離線動態(tài)符號執(zhí)行引擎DSEE，DSEE首

3、先將主體是匯編指令序列的軌跡翻譯成BIL程序，然后基于BIL程序做符號執(zhí)行，其間，由原是系統(tǒng)調(diào)用幀和污點引入幀翻譯過來的BIL語句引入初始符號變量，依據(jù)BIL語句和表達式操作語義進行符號演算，生成由BIL表達式描述的路徑公式，之后該公式被翻譯成SMT求解器Z3支持的SMT2格式并被求解，該解將作為一個新的輸入被繼續(xù)測試，而關(guān)于下一個測試輸入的選擇問題則使用了改進的分代搜索算法。另外，本文還設(shè)計并實現(xiàn)了一個帶污點分析的軌跡記錄引擎TLET

4、，設(shè)計內(nèi)容包括:參照動畫模型的軌跡模型設(shè)計、隨機讀取軌跡幀的序列化容器設(shè)計、會引入污點的linux系統(tǒng)調(diào)用建模、基于數(shù)據(jù)依賴的污點傳播規(guī)則建模。本文對DSEE和TLET進行了實驗測試和驗證，結(jié)果顯示，兩者能達到之前的設(shè)計要求。針對漏洞確認問題，本文通過將棧溢出漏洞利用生成歸約為邏輯公式可滿足性求解實現(xiàn)了棧溢出漏洞的自動確認和利用自動生成。
　　本文的主要貢獻有:(1)設(shè)計實現(xiàn)了離線符號執(zhí)行引擎DSEE和作為其基礎(chǔ)的軌跡記錄引擎TL

5、ET，實驗證明兩者能正確工作，這兩者將是該領(lǐng)域后續(xù)繼續(xù)研究工作的平臺基礎(chǔ);(2)改進了分代搜索算法，加入啟發(fā)因子，以期使搜索盡快朝高代碼覆蓋率方向前進，測試分析顯示，改進后的算法能達到預期的目的;(3)使用動態(tài)污點分析和死碼移除作為DSEE的性能優(yōu)化措施，結(jié)果顯示，能很大程度上減少需要符號執(zhí)行的BIL語句數(shù)量，從而很大程度上減小了路徑公式尺寸，是有效的優(yōu)化措施;(4)將棧溢出漏洞歸約為邏輯公式的可滿足性問題，使用DSEE實現(xiàn)了該類漏洞的