伴随着信息技术的飞速发展,在数字图像处理领域,目标检测与识别已经是近年来的研究热点之一。通用目标检测算法已经取得了长足的进展,然而在具体应用场景中,由于环境的变化、目标的尺度、视角等变化,通用目标检测算法未必有效,比如:行车拍摄的交通标志往往尺寸较小、种类繁多;航拍图像中的目标方向各异、尺度变化悬殊;自然场景中的文字形状奇异、包罗万象。这三类特殊的目标,相对于当前用于目标检测的流行数据集,其特点是目标处于开放环境中,小目标居多（目标尺寸小于32 × 32的交通标志或文本短边小于24像素）,目标的尺度、形状等差异性大。因此,现有的通用目标检测方法的性能不理想,需要研究这类特殊小目标的目标检测识别方法。本文围绕交通标志、航拍目标、场景文字三种复杂场景下的目标检测问题展开深入研究,根据不同的场景设计出具有针对性的小目标检测与识别算法。研究内容和主要贡献包括以下几个方面:第一,提出了一种针对交通标志检测识别分而治之的卷积神经网络。本文充分分析了二阶段检测方法的不足以及交通标志的特点,将检测任务与识别任务分离为两个子任务。针对识别难于检测问题,改进了 Faster R-CNN作为检测子网络,利用精简的主干网络和细致的锚点,在不失检测率的情况下提高了目标的检测速度。提出了大尺度的识别子网络,通过与检测子网络共享部分卷积参数、大尺度感兴趣区域池化,保留了目标丰富的浅层特征,使其能够胜任两百多类的细分类任务。在这种分离结构的基础上,本文还设计了多批量训练框架,大大提升了框架的识别性能。该算法在TT100K与CTSD两个数据集精度分别达到了 93%和98.32%,召回率分别达到了 94%和98.70%,速度可达10.25FPS。第二,提出了一种级联的多方向航拍目标检测算法。该算法借鉴了 Cascade R-CNN级联定位目标边界的思想,设计了一个多信息级联输出端。利用目标定位过程中任务的难易变化以及目标标注信息的丰富性,通过逐级定位的思想实现目标多方向边界框的定位。针对航拍目标颜色特征相似问题,利用定位得到的位置信息提取目标形状特征,结合目标纹理颜色特征提出了级联分类器,通过由细入精的识别步骤对目标进行有效地分类。并且,针对训练样本不平衡问题提出了匮乏样本扩充方案。该算法在DOTA、HRSC2016两个航拍数据集上mAP分别达到了 72.81%和89.68%,超越了当前其他算法。第三,提出了基于剪枝与知识蒸馏的快速场景文本检测算法。该算法针对现有方法参数冗余,速度较慢等问题,在DBNet框架下,根据BN层参数中缩放因子的大小裁剪基准方法主干网络,得到一个快速的文本检测网络。此外,该算法利用了知识蒸馏的思想,用一个性能优异的教师网络辅助训练剪枝后的精简网络,使得网络兼顾了速度与检测性能。该算法在Total-Text、MSRA-TD500和ICDAR2015三个场景文本数据集上进行验证,综合得分分别达到了 83.3%、83.4%、82.8%,最快速度可达实验表明95FPS,其性能均超越了大多数其他方法。