光学遥感影像是遥感成像中的重要组成成分,它可以应用于观测和监控地球表面各种物体和目标,如机场、飞机、建筑物等,因此其在国防安全、城市建设规划、灾害监测等领域具有广泛的应用价值。这些广泛的应用需求给光学遥感影像自动化解译带来了更高的要求。随着我国光学遥感技术的快速发展,光学遥感影像获取的数据量越来越丰富,尺度越来越大,分辨率也越来越高。此外,虽然光学遥感影像数据丰富,但是有标签的数据仍然非常稀缺。许多研究人员针对光学遥感影像的目标检测提出了各自的解决方案,但是传统的方法在面对大尺度、高分辨、小样本等挑战时仍存在许多不足之处。近十年以来,深度学习方法尤其是卷积神经网络（Convolutional Neural Networks,CNN）大放异彩,在目标检测和目标跟踪等计算机视觉领域一骑绝尘。随着高性能计算技术的发展,越来越多的学者开始将深度学习的方法引入到光学遥感影像解译中,并取得了不错的效果。本文结合光学遥感影像的特点,深入研究并利用了深度学习方法,在光学遥感影像目标检测方面做了一些研究,具体工作如下:1)针对光学遥感影像尺度大的问题,提出一种基于小波变换和深度强化学习的光学遥感影像目标检测方法,首先利用小波变换将原始RGB（Red Green Blue）图像变换为多个小波子带,然后用深度强化学习从多个子带中筛选出有限个数的子带,在降低输入数据尺寸和通道数的同时将检测性能提升了2%;此外,为了让传统的目标检测网络关注到输入数据中小波的尺度特征和方向特征,引入了离散小波多尺度注意力机制,能够显著提高网络对特征的提取能力和泛化能力,进一步提高目标检测网络的性能。2)针对现有背景减法特征提取能力弱和标注数据稀缺的问题,我们利用条件生成对抗网络（Conditional Generative Adversarial Networks,CGAN）和领域对抗神经网络（Domain-Adversarial Neural Network,DANN）设计了一个新的背景减法网络。该方法利用所生成的背景和当前的视频帧,在自然视频上训练,通过领域自适应方法得到了VHR光学遥感视频的背景减法结果。我们提出的方法利用深度网络和生成对抗网络（Generative Adversarial Networks,GAN）对抗训练的思想,解决了传统背景减法特征提取能力不强的问题;利用领域自适应的方法克服了当前遥感数据集缺少数据标注以及训练数据与测试数据的特征分布相似但不同的困难。此外,我们提出了将原始视频先切割后拼接的并行处理方法,不仅解决了传统方法无法处理大尺度遥感视频的困难,而且大幅提高了运算速度和计算效率。3)针对光学遥感影像样本少、标注稀缺的问题,我们提出了基于元学习的光学遥感影像小样本目标检测方法,利用支持图像和查询图像之间的特征相似性来进行特征匹配和相似性学习。我们在Faster R-CNN的基础上,首先采用backbone对输入的支持图像和查询图像进行特征提取,之后采用特征匹配模块匹配支持分支特征和查询分支特征并得到热力图,送到RPN中生成区域建议。最后,使用相似性度量模块度量全局相似性,局部相似性和像素级相似性,并进行相似性融合,得到最终的相似性结果和边界框回归位置偏移量。