OSPF是目前最为流行的内部网关协议，相较于其他内部网关协议具有一定的抗攻击性和容错性。但是和很多互联网协议一样，此路由协议在设计时就没有充分考虑安全问题，尽管国内外有很多针对OSPF协议安全性的研究，但到目前为止，仍然没有很好的解决OSPF协议的安全问题，针对OSPF协议的各种攻击仍然层出不穷，使互联网应用面临很大的安全威胁。本文在对OSPF路由协议各类攻击及其自身已有的安全验证机制进行充分分析的基础上，基于协议状态机的思想对OSPF协议的异常检测方法进行了研究，取得的成果如下：　　首先，设计了一种基于OSPF协议状态机异常转换匹配的攻击检测方法。对正常状态转换给出了完备的状态转移描述，并针对可能的各种攻击，根据正常状态转换的状态机给出了异常状态转换的各种规则。在检测过程中，当发现状态机异常变换时，检查异常状态转换的各种规则，产生报警，根据成功匹配的规则可确定可能的攻击类型范围为后续防御提供支持。论文还重点分析了遭到OSPF三大LSA攻击与hello报文重放攻击时，OSPF协议状态机的异常变化情况。　　然后，根据以上思想设计了基于状态机转换的模式匹配系统，该系统能够对引起状态机异常变化的数据包进行捕获、记录、报警，并可通过数据包的接收时刻特征查找到攻击源路由。　　最后整个检测方法通过GNS3路由模拟平台仿真实现，并利用libnet实现模拟攻击。实验结果表明，本文所给出的检测方案是正确有效的，基于状态机的方式能以相对简洁高效的方式检测出绝大多数针对路由协议的已知和未知攻击。