随着社会对视频监控需求量的不断增长,面对海量的数据信息,智能监控系统的研究也显得日益重要。其中运动目标检测是智能监控的基础,异常行为识别是智能监控的目的,而聚众行为的识别是异常行为识别的一个重点和难点,因此本文主要对运动目标检测算法和聚众行为识别算法进行研究,并将所改进的算法应用于智能监控系统。本文主要工作包括：(1)对异常行为识别的基本流程进行了介绍,包括视频图像预处理、运动目标的检测、跟踪、行为识别等,分别介绍了各个环节的主流算法和分类,为后续工作奠定了坚实的理论基础。(2)结合运动目标检测中常用的背景差法和帧差法的优缺点,提出了一种改进的适应光照变化的运动目标检测算法,克服了背景差法对光照变化敏感和帧差法检测结果出现大量空洞的现象。实验证明本算法在有光照变化和无光照变化的情况下检测效果均良好。(3)从能量和图像信息熵的角度提出了一种聚众行为识别算法。能量可以表示图像中运动目标的多少,人数越多,能量越大；熵可以表示运动目标的聚集程度。此算法思路简单,算法复杂度低,同时实验效果良好,实时性较强,可以应用于实时智能监控系统。(4)在本文算法的基础上,以PC机和USB摄像头为硬件设备,在matlab环境下设计了一个实验版的智能监控系统,实现了聚众行为检测和报警。