科学技术的不断发展给网络技术推动人类文明进步提供了平台和导向。当今的信息化时代,监控视频广泛应用,使得智能视频获得了前所未有的发展。但是还未满足市场对其更人性化的需求,如一些固定场景下的实时行为识别检测、行为警报系统等应用。越来越多的人开始关注视频识别检测领域的发展情况,并进行科学研究和分析。在行为检测方面,相比于费时费力的传统方法,卷积神经网络算法因为其高速、准确的识别优势,使得很多相关领域的研究人员把研究中心转移到该方向中。本文针对教室视频中学生的异常行为进行检测,根据功能要求对该项目进行分析和研究,在深度学习的基础上进行目标检测模型的构建。因实验需要,本文将自制该项目所需行为数据集,并通过改进和优化人物行为检测算法,提高对小目标识别的准确率以及解决目标检测时出现的遮挡问题。为了验证本论文所提到的模型效果,将所提出的模型在公共数据集以及自制的教室视频行为数据集上分别进行训练和测试,并进行结果的分析和对比。本论文的主要研究工作如下:（1）针对当前网络上公开的数据集不能够满足本项目实验需要的情况,本文通过对教室上课实际场景录制,进行视频数据的采集,并采用专业的LabelImg工具进行行为标签的制作,以满足实验需求。（2）针对教室背景下学生异常行为识别检测的实际需要,本文基于深度学习的卷积神经网络结构,选用拥有实时性特征的YOLOv3进行目标检测,充分利用浅层信息对小目标特征信息的表征能力,将Darknet-53部分的第一残差块通过保留特征信息的空洞卷积后,与8倍下采样后的特征图进行融合,继而级联改进的RFB模块,即在RFB上添加一个分支进行周边特征的提取,从而增加对周边视野的参考,提高模型识别率。除此之外,在侧向连接的上采样中使用3*3以及步长为2的卷积操作代替最大池化操作,以便更充分地利用金字塔中的特征信息。本文将模型命名为Rs-YOLOv3,通过对原网络的优化,在保证速度、准确率的同时,小目标识别效果也有所改善。（3）本文研究的教室场景在现实情况下,容易出现人物遮挡现象,随着神经网络层数的加深,特征提取也会出现信息丢失的情况。本文将在Rs-YOLOv3基础上融合SE-Res2Net模块,增加各层网络的感受野,更细粒度地表示特征信息,实现多层特征复用,使设计的网络更加适用于本文场景。同时考虑到YOLOv3中采用的边框回归损失函数无法准确描述边框之间的交并比关系,本文提出用DIoU＿Loss进行替换,增加了对重叠率和尺度等指标的参考,使模型回归更加稳定,并在一定程度上降低了漏检率。通过理论分析与实验得知,本文所提出的行为检测卷积神经网络适用于教室视频的学生异常行为检测,具有更快的识别速度以及更高的识别精度。同时本论文对类似的复杂、固定场景视频中人体行为识别检测算法的进一步研究具有重要意义。