随着遥感技术的发展,光学遥感图像的空间分辨率逐步提高,为广域范围内的地物提供了更加清晰的轮廓和纹理信息,遥感图像的应用不再局限于以往粗糙的遥感图像分类,遥感目标检测逐步成为遥感应用技术中重要的一环。光学遥感目标检测以工作在可见光波段范围的遥感平台传感器捕捉到的影像为研究对象,采用图像处理技术对影像中的感兴趣目标进行分类和定位。近年来,遥感图像目标检测广泛应用于国土资源调查、生态环境监测、灾害预防与灾情评估等领域,研究遥感图像目标检测具有重要理论意义和应用价值。由于遥感图像具有背景复杂、目标尺度和长宽比变化较大、目标具有任意的朝向以及空间分布不均匀等特点,传统的目标检测方法难以鲁棒地检测遥感图像中目标。深度卷积神经网络技术的进步使遥感图像目标检测重新焕发生机,而检测方向也从水平框目标检测迈向更为精细的旋转框检测。本文在遥感图像目标检测技术和通用目标检测技术的基础上,分析总结现有方法不足之处,结合当前遥感图像检测中多尺度、多角度等新的挑战,分别从复杂背景下的遥感目标检测精度以及检测速度两个方面进行相应改进,提出了基于空间-非局部注意力的多尺度多阶段定向遥感目标检测算法和基于旋转中心点估计的定向遥感目标检测算法。主要工作包括:1、在图像预处理方面,针对均匀滑动窗口方法存在的子图重叠面积大、重复样本数量多以及裁出尺寸单一的问题,提出基于网格聚类的动态裁剪法,将高分辨率的遥感大图裁剪成适合模型输入的子图。在遥感图像上探索多种数据增广方法,如几何变换、色彩变换、混合样本增强以及多尺度样本等。实验结果表明,合理的数据增强方法能够较大程度提升遥感目标检测效果,基于网格聚类的动态裁剪方法比均匀滑动裁剪提升了样本的质量,可以用更少的样本规模得到更好的训练效果。2、针对目前遥感目标定位精度低、密集小目标和多尺度样本检测效果不稳定以及背景噪声干扰严重的问题,本文首先分析了多阶段网络的优势,在此基础上提出基于空间-非局部注意力的多尺度多阶段网络。该网络主要包含三个阶段:第一阶段由增强的多尺度特征提取网络和RPN子网预测HBB,第二阶段由Ro I变换网络初步预测OBB,第三阶段通过对齐的旋转不变特征预测精细化的OBB,实现高精度的旋转目标定位。为抑制背景噪声和加强目标特征的表达,设计了二值掩膜标签作为监督信号的空间注意力和NL模块结合的空间-非局部注意力结构。在DOTA数据集上的实验结果表明,基于空间-非局部注意力的多尺度多阶段算法检测效果优于Ro I Transformer和SCRNet等常用的定向目标检测算法。3、为加快网络前向推理速度,使遥感目标检测任务能够运行在计算资源有限的终端设备上实现实时处理,本文在无锚框水平目标检测框架基础上,提出基于旋转中心点估计的定向遥感目标检测算法RCNet。算法通过生成关键点热图预测目标中心点,将旋转框检测转为关键点估计,并且为每个中心点附加预测旋转角和宽高。RCNet网络超参数少、结构扁平化,仅由主干网和较轻的不同检测分支构成,很好地解决了遥感目标检测的效率问题。通过对训练好的模型进行量化,达到实时检测的目的。实验结果验证了RCNet在较高的检测准确率下拥有更快的检测速度,网络实用性强。