目标检测是目前比较热门的研究课题之一,其中人脸检测应用最为广泛,人脸是一种非刚性的目标,现实环境中存在各种复杂因素影响着人脸检测的性能,例如人脸存在遮挡物,光照强度对图像质量的影响,人脸的姿态与细微的表情变化引起的变形,以及待检测目标过小等等,针对以上问题,本文针对复杂环境下人脸检测的算法进行了研究。本文主要工作有:针对遮挡、光照,强度、多姿态情况下的人脸检效果不佳的情况,本文设计了一种近似遮挡的数据增强的方法,对Yale B数据集中不同光照强度下的人脸图像进行遮挡近似处理,使用了平均脸策略和图像分割技术对特定区域进行处理获得与自然环境下相似的遮挡样本,并对样本图像进行多角度旋转,用处理后的样本与Wider Face数据集对网络模型进行联合训练,提高了检测器对遮挡情况和多姿态问题的鲁棒性,同时也解决了训练数据不足导致的过拟合问题。为了提高离摄像头较远的小人脸目标的检测率,本文使用一种多层特征图融合的方法,将卷积神经网络中的末三个卷积层的特征图进行融合,最大限度地保留卷积计算时被压缩掉的信息,从而提高小人脸目标的检测率。同时,本文根据人脸的特殊比例对区域建议框的尺寸进行调整,对Faster R-CNN进行优化,去除掉大量冗余的非人脸建议框,从而提高人脸检测器的训练和检测的速度。最后将算法在Wider Face数据集上进行测试,并使用FDDB数据集进行跨数据集评估,结果显示本文方法取得了较好的检测效果,且网络模型具有较好的泛化能力。同时分别在不同的影响因素与不同影响程度下对检测器进行特定场景的评估,结果表明本文方法对复杂场景下的人脸检测具有较好的适应能力。