随着网络技术的迅速发展,协议测试已经成为网络协议工程学中研究的热点问题。网络环境的日益复杂化对协议实现的鲁棒性提出了巨大的挑战,鲁棒性测试是保证协议实现在恶劣环境下能够正常运行的重要手段,其主要目标是测试协议实现在受到异常冲击的情况下能够正常工作的能力。本文采用形式化描述技术,对协议鲁棒性测试理论和方法进行了研究,主要研究内容包括以下几个方面:介绍了一种适合鲁棒性测试的形式化模型——RFSM以及鲁棒性测试的相关技术。测试序列生成是协议测试最为关键的部分,因此本文重点研究了鲁棒性测试序列生成问题。首先根据RFSM模型的特点,给出了测试序列的组成结构,通过将四种基于FSM的一致性测试序列生成算法引入到鲁棒性测试,形成了基于RFSM的鲁棒性测试序列生成算法。随后,对UIO方法进行实例分析,针对UIO方法在应用过程中涉及的一些问题给出了解决方法,并在此基础上给出了一种基于UIO的改进算法,该算法有效结合了MUIO方法的高覆盖率和T-方法序列最短的优点,实现了测试序列的优化,最后通过实例和算法分析给予验证。以TCP协议为测试对象,在详细分析其鲁棒性测试内容的基础上,给出了对应的RFSM模型和测试例。在测试执行时,测试系统利用一种语法错误注入(Syntax Fault Injection)技术,成功模拟出了测试所需要的各种异常冲击,能够有效完成测试任务,正确生成测试报告,从而验证了本文研究的理论和方法。