缓冲区溢出漏洞是目前软件面临最严重的安全漏洞。产生缓冲区溢出漏洞有两种原因,一是在软件开发过程中,程序员在编写程序时对缓冲区操作没有进行边界检测;二是在程序中调用了C标准库中的一些不安全的字符串操作函数,而这些C库函数本身没有对缓冲区边界进行检测,因而造成缓冲区溢出问题。通过对缓冲区溢出原理和各种缓冲区溢出类型的分析,对测试对象进行了形式化定义,并定义了缓冲区状态和缓冲区上的操作。在此基础上建立了一种缓冲区溢出漏洞检测模型,同时归纳四条缓冲区溢出漏洞检测规则和一条缓冲区溢出漏洞检测定理,说明了存在缓冲区溢出的必要条件是程序中定义了指针或数组变量,并且在对这些缓冲区操作时没有进行边界检测,根据缓冲区的状态来判断缓冲区溢出的定理。为了克服在源程序中添加注解的繁重的工作,同时也为了防止执行程序的过渡膨胀而增加运行程序的负荷,根据缓冲区溢出漏洞检测模型,实现了一个缓冲区溢出检测的检测工具。实现过程中根据模型的检测规则判断测试对象中是否存在缓冲区溢出漏洞。检测工具通过对被检测对象扫描来实现缓冲区溢出漏洞检测。检测工具由输入处理、词法分析、语法分析、语义分析和输出五大模块组成。检测工具实现了对指针变量、数组变量、程序员自定义数据类型变量和部分C库函数的缓冲区溢出漏洞检测。研究和实验结果表明,缓冲区溢出漏洞检测工具能有效检测源程序中的指针变量越界访问、数组变量越界访问、结构类型对象越界访问和部分C库函数调用造成的缓冲区溢出问题。能快速检测出大型程序中的缓冲溢出漏洞,具有一定的实用价值。