经济在发展,社会在进步,治安状况和公共安全问题却不断凸显出来。在安防领域,视频监控系统的应用日渐广泛,监控设备越建越多,系统规模越来越大,如今的视频监控系统就像一张巨大的网覆盖着整个社会,保护着公共场所的安全。但是随着视频监控的大规模建设和应用,系统存在的问题也逐渐显现出来,由于各地的系统之间缺乏统一规范的公共协议,数据难以共享,系统与系统之间的互联互通性成为制约其进一步发展的重要问题。为了解决这个问题,GB/T28181规定各企事业单位和部门在建立视频监控系统时必须采用SIP协议作为标准协议。会话初始协议SIP是1999年由互联网工程工作组(IETF)提出的一个信令控制协议,基于文本,在设计时主要考虑了使用上的方便性和灵活性,但是其安全性能没有得到太大的关注。互联网上的攻击类型多种多样,DoS洪泛攻击和畸形消息攻击是对SIP应用威胁最大的攻击之一。本文分析了视频监控系统与SIP协议的特点,深入研究了DoS攻击和畸形SIP消息的攻击原理和国内外研究现状,提出了改进的检测算法和防御机制。针对DoS攻击,分析了其对网络流量分布造成的影响,发现传统的信息熵算法没有考虑网络流量的动态特点,基于此提出了相对熵的检测算法,通过比较检测阶段的相对熵与训练阶段的正常相对熵,判断是否发生DoS攻击。针对畸形消息攻击,采用异常偏差模型,先通过N-gram技术对SIP消息进行映射,提取特征向量,建立正常消息模型,利用欧式距离计算待测消息与正常消息之间的距离偏差。在建立正常模型时,结合了全局模型和局部模型,使得检测率提高的同时不影响算法性能。结合对两种攻击的检测,提出了视频监控系统中SIP域的异常检测和防御模型,在一定程度上保护视频监控系统SIP域的安全。