近年来，针对文件格式漏洞的攻击行为已成为网络安全的主要威胁之一，为更多的人所分析和研究。文件格式往往具有跨平台的特点，一旦某种文件格式存在安全漏洞，不管目标主机是Windows，Macintosh还是Linux系统都可轻易被攻破。由于这一特性，使得文件格式漏洞攻击越来越受黑客的青睐。当前，Office、PDF等各种文件格式的使用非常普遍，如Office、PDF等等。若存在文件格式漏洞并被恶意利用，受影响的用户众多，危害性极大。因此，深入分析和研究文件格式漏洞具有非常重要的意义。本文主要研究了文件格式漏洞产生的原因，分析比较了现有的文件格式漏洞发掘方法，并针对PDF文件格式设计并开发了一套漏洞挖掘系统。本论文的主要研究工作如下：1.分析研究文件格式漏洞，并对各种的文件格式漏洞挖掘技术进行比较总结。2.深入研究和分析PDF文件格式、JavaScript脚本解析引擎及现有的PDF文件格式漏洞挖掘方法。3.结合PDF文件格式、JavaScript，采用基于逆向工程和Fuzzing技术实现了具有自动化漏洞挖掘功能的PDFDigger系统，实现了挖掘的自动化，提高了发掘的效率。同时，该系统还具有智能化异常分析的功能，可确定异常产生的原因及所属的异常类型等。4.详细描述了PDFDigger挖掘系统的关键模块的设计及实现，如样本生成、样本测试、动态调试及异常分析等模块。5.最后，全面测试PDFDigger挖掘系统的各个功能模块，并进行应用展示，重现了已有的PDF漏洞。测试结果显示PDFDigger达到了预期的设计目标并具备发掘潜在安全漏洞的功能。因此，PDFDigger具有一定的实用价值。