低空小型无人机（Small Unmanned Aerial Vehicle,SUAV）作为一种新兴的非载人小型飞行器,其近年来的迅猛发展在方便人民生产生活的同时也带来了极大的安全隐患,近年来频发的无人机“黑飞”事件对公共社会安全造成了极大的威胁。在军事领域,小型无人机由于其灵活机动、用途广泛、成本低廉以及难以被侦测的特点,迅速成为了一支不可忽视的作战力量。因此,反无人机监控和反制设备的需求空前高涨,而无人机目标的探测和识别问题是该系统研发的基础和重点。本文利用红外探测手段,以红外无人机目标为研究对象,针对用于固定区域安防的反无人机监控系统需求,展开复杂背景下红外小型无人机目标检测方法研究,为了研究无人机目标的红外特性、提高无人机检测算法的实时性和精确度,本文开展了如下工作:（1）为了弥补目前红外无人机目标数据集的匮乏,同时满足目标特性分析和深度学习算法的训练需求,进行红外无人机探测实验和无人机目标检测数据集的制备,并结合原始数据集的统计信息进行数据集的均衡和扩增。最终构建了一套包含多机型、多时段、多背景、多气候以及不同探测角度和探测距离下的较大规模的红外无人机数据集。（2）为了分析无人机目标的红外特性,首先根据黑体辐射定律与菲涅尔公式对无人机目标及其所处背景进行红外特性建模,对其成像原理和复杂度进行分析;而后,通过无人机探测实验获取的实测数据分析了在红外探测器成像过程中无人机目标的红外辐射特性、运动特性、目标的视觉显著性,为后续算法设计提供了理论指导。（3）为了兼顾红外小型无人机目标检测算法的运算速度和处理精度需求,同时提高小目标的召回率,本文提出了基于多尺度特征图融合的红外小型无人机实时检测方法。该方法分别结合了基于密集横向连接的多尺度特征图融合模块、基于目标统计特征的滑动窗搜索模块,使用单阶段检测框架在保证检测精度的情况下实现了较高的实时性。（4）为了解决高度复杂背景下红外小型无人机目标的精确检测问题,本文结合检测-分割一体化框架,提出了基于旋转无约束区域建议的红外小型无人机目标精确检测与分割方法。该模型结合了旋转无约束区域建议网络、旋转感兴趣区域对齐层以及适应性非极大值抑制等方法。针对目标邻域内背景复杂度较高的问题,提出旋转无约束区域建议的思路,同时结合了多任务联合学习的方法,实现了单一网络对目标类别、位置边界框和分割掩码的并行输出,为无人机目标的型号识别、姿态估计、行为分析等高级判别提供先决条件。本文的研究和相关工作为用于固定区域防护的反无人机红外视频监控系统的发展提供了一定的理论与技术支持,对促进反无人机技术和红外目标探测识别技术的发展具有十分重要的意义。