遥感技术是在没有任何物理接触情况下获取有关对象数据或信息的一项技术。遥感技术被广泛应用于军事侦察、环境改善、社会稳定等诸多领域。近年来,随着航天航空事业的快速发展,能获取到的遥感卫星图像成指数级爆炸式增长,如何能快速从海量数据中解译到重要有效的信息,变得尤为关键。而目前光学遥感图像目标检测仍处于依靠人工经验判读向计算机自动化判读的过渡阶段,存在效率低、实时性差、智能化低、成本高等问题,导致海量数据资源的利用率低。传统的遥感图像目标检测算法可分为区域选择、人工特征提取和分类器三个步骤。但基于滑动窗口区域选择的策略没有针对性,存在候选区域冗余过高、时间复杂度高的问题,且人工设计特征的选择有限、泛化能力低,不适用海量数据。本文为解决以上问题,确立了基于卷积神经网络的方法去提升光学遥感图像目标检测准确率的研究目标。具体针对光学遥感图像中目标占比小且密集、目标与背景难以区分的问题,本文基于Faster RCNN提出了一个改进的二阶段目标检测模型,主要对模型的特征提取网络进行了改进。首先为提取更深层的高层语义特征并避免梯度消失的问题,且保持一定的速度,本文采用了小型残差网络ResNet50代替VGG-16网络升级特征提取的骨干网络。进一步,因网络层次加深带来的特征下采样倍数过大,过小的目标框特征将不具有判别力,会造成遥感图像小目标漏检和分类错误的问题。本文引入了特征金字塔网络通过融合低层结合信息和高层语义信息来增强特征表征,同时将候选框和特征位置分散到特征金字塔的每层,大大提高了小目标的特征映射分辨率,提高了检测性能。为解决光学遥感图像目标与背景难以区分的问题,提高模型对各种目标形状的学习精度,本文采取可变形卷积代替了传统正方形卷积,让卷积区域尽可能集中在目标上,具体是将ResNet50结构的后三部分残差块的最后一层卷积改成可变卷积,降低背景干扰。为解决正负样本IoU阈值设定问题和进一步证明可变形卷积的有效性,引进了级联网络,提高了网络性能。最后在DOTA数据集上的多个实验结果表明,本文提出的二阶段目标检测模型在准确性上取得了良好的效果,相比之前的检测模型有明显提升,具有一定的实用价值。