现有常见的目标检测算法仅针对一般场景具有较好的检测性能,然而不适用于复杂场景。复杂场景下的目标检测会存在如下问题:1)背景中存在噪声影响目标检测的精确度;2)检测目标具有很多复杂的组成部分;3)目标与背景仅存在非常小的差异,颜色等特征极其相近等等。这些问题给目标检测带来了极大的挑战,如何从复杂场景中实现目标的识别与检测则成为更加重要和困难的问题。本文主要针对复杂场景下的目标检测算法展开研究,提出一种基于卷积神经网络的复杂场景目标检测算法（Object Detection in Complex Scenes,简称ODCS）,以降低目标检测算法的检测误差。ODCS的主要创新点如下:1)提出了RoI特征选择网络,通过利用原始RoI在子区域和纵横比之间的差异来改变RoI的特征表示,为整个图像生成子区域注意力库和纵横比注意力库。基于RoI的子区域注意力图和纵横比注意力图被有选择地从库中池化,然后用于细化RoI分类的原始RoI特征。RoI特征选择网络基于通用的Conv Net主干网（Res Net-101,Goog Le Net和VGG-16）,配备了轻量级检测子网,可以持续提高检测性能。2)通过探索丰富的上下文信息来改进检测模型,设计了上下文推断网络以在不同对象及整个场景之间迭代地传播信息。上下文推断网络不仅可以考虑物体的视觉外观,还可以利用两种上下文,包括场景上下文信息和单个图像中的对象关系。当利用这些结构化信息时,目标检测被认为是认知问题和推理问题。本文通过两组数据集来检验ODCS算法的性能。首先,比较了Faster R-CNN、YOLO、SSD、R-FCN和ODCS在PASCAL VOC数据集上的性能,除了检测准确度的比较之外,还提供了另一种比较来评估他们在PASCAL VOC 2007上的测试消耗。其次,比较了Faster R-CNN,SSD和ODCS在复杂场景数据集上的性能,包括精确率、误检率、迭代次数与错误率的关系等。两种实验结果均表明了,本文提出的ODCS算法能够较好地解决复杂场景对目标检测造成的干扰问题,目标检测准确度得到了明显地提升,该算法有效地提高了复杂场景下目标的检测精度,尤其是在复杂背景的测试图像上具有较优的检测效果。