光学的遥感图像目标检测任务目前被广泛地应用在军事侦察、灾害监测以及城市规划的各个方面,是进一步做遥感图像解析等任务的前提和基础。随着近年来传感器技术的不断发展,遥感图像的空间分辨率越来越高,也提供了越来越丰富的细节信息供算法处理,因此遥感图像的目标检测任务变得越来越重要。近年来深度学习的方法在自然图像的分类以及检测任务当中都得到了广泛的应用,研究人员也开始使用深度学习的方法来解决遥感图像目标检测任务。光学遥感图像存在着目标尺度变化大、方向不确定、目标分布密集以及背景极为复杂的特点,因此直接将自然图像中的目标检测方法使用到遥感图像中不能取得好的检测效果。本文将主要围绕着如何解决遥感图像中的小目标检测问题展开研究,主要的研究内容包括:一、针对遥感图像背景复杂导致其对小目标检测性能干扰较大的问题,本文设计了一种基于上下文信息的遥感图像小目标检测网络。一是通过扩大候选框区域来提取上下文区域的特征,二是使用LSTM中的门控设计来使网络自适应学习控制上下文的特征从而达到对候选区域分类结果的性能提升,小目标的特征在此过程中被加强从而提升了遥感图像小目标的检测性能。通过在RRPN网络以及Ro I Transformer网络上分别添加所提出的结构并在DOTA数据集上做对比实验验证了所提出上下文信息融合网络的有效性。二、针对遥感图像里小目标经常以簇状结构出现的特征导致其检测困难的问题,本文设计了基于多阶注意力机制的遥感图像小目标检测网络。使用Res Net50-FPN为例做特征提取网络,在低层级使用基于池化的双通道注意力模块,在高层级则使用全局关联的注意力模块来构造多阶注意力网络,在保证不极大增加网络计算量的同时更加专注簇状结构中的小目标单体特征,从而达到了提升检测性能的目的。和上节一样在两个基础网络上进行消融实验设计,验证了多阶注意力网络模块的有效性。三、遥感图像尺寸较大,通常采用固定步长的切割方法既没有解决目标内部尺寸变化大的问题又产生了大量重复目标,本文通过使用多尺度切割的方式并改进训练策略,在不提升切割产生子图数量的同时也利用到了多余的背景信息并且保证了多尺度图像的输入训练,从而大幅提升了小目标检测的性能。此外本文还提出了使用遥感图像场景下不同类别目标的互相关联出现的先验信息来对检测网络的概率输出进行修正以提升检测性能。利用遥感图像的俯视角度特性,同一级类别目标不会互相重叠的先验信息,提出了改进NMS算法的后处理方式,在不改变网络结构与计算量的前提下提升检测性能。为了验证本节提出预处理和后处理方式的通用性,本文使用不同的网络结构分别在DOTA、HRRSD、NWPU VHR-10三个遥感数据集上做了验证,通过实验证明了所提出算法的有效性。