随着人工智能和计算机硬件的发展,行人检测技术被应用于自动驾驶、智能视频监控、智能机器人等领域。其中基于卷积神经网络的目标检测算法YOLOv3具有检测实时性较好、检测准确度较高等优点,被广泛应用于行人检测领域。但是依旧存在密集场景下行人互相遮挡导致YOLOv3难以准确检测出被遮挡的行人,以及行人被物体遮挡导致YOLOv3难以准确提取行人全身特征从而出现漏检的问题。针对行人间互相遮挡导致YOLOv3难以准确检测出被遮挡的行人的问题,本文提出基于边框排斥损失函数以及改进非极大值抑制(Non-Maximum Suppression,NMS)的YOLOv3行人检测算法。一、在训练过程中,YOLOv3使用边框定位损失函数计算行人先验预测框与标记框之间的定位误差,在回归过程中修正误差,使得YOLOv3能够准确定位行人。但是当行人互相遮挡时,行人先验预测框与标记框互相重叠导致算法将两个互相遮挡的行人判定为单行人,影响边框定位损失函数,从而使得网络无法准确识别出互相遮挡的行人。为此,本文加入一组损失函数代表目标行人与邻近行人之间的误差,在训练过程中减小邻近行人对目标行人的影响,使得网络能够准确识别出互相遮挡的行人。二、在密集场景下的行人检测中,当行人互相遮挡时,置信度得分较低的行人先验预测框会被NMS判定为虚假行人预测框,从而造成漏检现象。基于此,本文使用线性函数改进NMS中的置信度得分函数,使用权值来衰减邻近先验预测框的置信度得分,将置信度得分相对较高的行人预测框保留在NMS的循环列表中,从而减少漏检现象。除去行人间互相遮挡,在行人检测中存在大量的行人被物体遮挡,导致YOLOv3难以提取行人全身特征从而造成行人被漏检。基于此,本文在YOLOv3主干网络后加入一个预测网络分支用于检测在实际场景中难以被遮挡的头肩部位,利用头肩预测结果增强行人全身预测结果的鲁棒性,提高行人被物体遮挡下的检测准确度。同时由于YOLOv3的多尺度检测能力不足加大了行人被物体遮挡场景下的检测困难度,因此本文通过加深YOLOv3的主干网络、增加特征输出网络的层级、增加锚框尺度的多样性的方法来强化网络对不同距离下被遮挡行人的检测能力,提高算法的多尺度检测能力。最后,通过行人测试集对本文提出的算法进行验证,与原始YOLOv3算法进行对比。实验结果表明本文提出的算法能够提高遮挡场景下行人检测性能。