随着信息技术的发展,作为信息技术的基础,软件正在随着其规模的扩大和复杂性的提高,变得越来越难以开发和维护。互联网技术的发展更使得软件漏洞暴露在大量的攻击和入侵事件中,因此软件的安全性研究成为信息技术发展的热点和难点。论文以缓冲区溢出攻击与防御为主题,以Windows系统为平台,力图系统地对缓冲区溢出漏洞多方面的性质进行综合研究。论文的主要进展如下：1.给出了以范畴论描述的缓冲区溢出攻击模型。通过对缓冲区攻击过程的研究,提出了以范畴论描述的缓冲区溢出攻击模型,对缓冲区溢出攻击过程进行了系统地总结。2.研究了缓冲区溢出攻击中关键部分Shellcode的核心技术,对如何突破系统的过滤字符串的限制,如何突破系统版本的限制,提高shellcode的通用性,压缩shellcode的体积方面给出了关键部分的实现。其中在Shellcode的编码方面作者设计了一种高效的编码方法,以便绕过系统的字符串限制,此外,在压缩shellcode的体积方面提出了作者的方法。