随着人口的快速增长，公共场所中安全需求不断提高，人群视频分析也将受到越来越多的关注。目前研究人员对公共场所中的监控视频研究发现，视频场景中人群普遍以小群体形式进行运动。小群体运动作为一种视频监控场景中人群最普遍的活动模式其运动分析研究也成为关注的热点之一。论文结合计算机视觉的最新研究理论，采用长距离粒子运动估计算法对存在遮挡的中等密度人群的运动进行有效跟踪，应用谱图分析区分不同运动特征的小群体，并对小群体运动的异常行为进行识别，主要研究内容有:（1）人群运动区域检测方面，提出了一种运动边缘帧差法和基于混合高斯模型的背景差分法相结合的人群运动区域检测算法。在采用运动边缘帧差法提取区域的过程中，引入多方向扫描边缘区域提取可靠前景的方法；在基于混合高斯模型的背景差分法中采用在HSV颜色空间下差别判定公式，有效区分前背景区域颜色差别，最后求取两结果重合区域，实现对运动目标的准确检测。该方法不仅适用于稀疏人群，同时在复杂小群体人群场景下，也能够比较精确地检测到人群运动区域。（2）人群运动轨迹提取方面，首先总结常用目标跟踪的轨迹获取算法优劣，然后介绍一种基于视频粒子的长距离运动估计算法，并应用于人群区域的运动趋势估计，获得人群运动轨迹。算法结合检测到的人群运动区域实现在公共场所中人群场景下小群体的跟踪和轨迹的提取。（3）小群体分类方面，提出基于轨迹谱图的人群小群体聚类方法。利用在人群区域获得的视频粒子运动轨迹，根据在社会认知方面的相似度准则，构建粒子轨迹间相似度矩阵，接着面对构建的相似度矩阵，利用谱图聚类方法进行粒子轨迹聚类从而区分在场景中不同运动特性的小群体。（4）小群体异常行为识别方面，提出了一种特征提取及描述方案，将跟踪人群运动的粒子速度方向信息用于时空特征立方体，使之能够运用于运动随意性比较强的全局监控。将提取的时空特征立方体与神经网络模型结合，完成在全局区域小群体异常事件检测的方案。在实验中，算法在检测群殴、跌倒踩踏、恐慌逃散等典型的群体异常时都可以得到较好检测结果。