调制识别技术是指在有限或者没有先验信息的条件下,识别接收到的未知信号调制方式。调制识别技术在军用和民用领域都有着广泛的应用。在军用领域,例如,在电子对抗中,一般需要调制识别技术对非合作方信号的调制方式进行识别,为后续的对其信号其他参数的获取打下基础;在获取信号的详细参数之后,即可有针对性的采取干扰措施,或者对其信号进行解调,获取其传输的信息。在民用领域,电磁频谱的监管需要调制识别技术的支撑,例如,当电磁频谱被未知信号非法占用时,需要调制识别技术对未知信号的调制方式进行识别,以对未知信号进行进一步的识别。根据是否应用深度学习算法,可以将现有的调制识别算法分成两大类:经典调制识别算法和基于深度学习的智能调制识别算法。经典的调制识别算法经过半个世纪的发展,目前已经遇到了一些瓶颈,例如,难以复杂调制方式,难以适应复杂电磁环境等问题;基于深度学习的智能调制识别算法是将深度学习算法引入到调制识别领域,由于此类算法正处于发展初期,故其仍然存在一些漏洞,例如,算法泛化能力较弱,缺少算法预处理筛选机制等问题。本文主要针对上述调制识别领域存在的问题展开研究。对于复杂调制方式难以识别和复杂电磁环境难以适应的问题,本文采用深度学习算法,利用其优秀的特征提取能力,实现对复杂调制方式识别特征的提取,以及抗干扰特征的提取;对于算法泛化能力较弱的问题,本文从数据和网络两方面入手,减小参数对数据的影响,增强网络的泛化能力;对于缺少算法预处理筛选机制的问题,本文利用网络输入、网络第一层输出以及网络整体输出三者之间的相关性,建立预处理筛选机制。基于上述研究思路,本文所取得的主要成果有以下三个:1、提出了基于图像匹配的预处理筛选算法。基于图像匹配的预处理筛选算法解决了目前基于深度学习的调制识别预处理选择没有一定指导原则的问题,建立了预处理筛选机制。通过预处理筛选,可以有效的剔除不必要的预处理,从而有效减少基于深度学习的调制识别算法的计算量,较少算法输入的冗余信息。2、提出了基于改进CLDNN的调制识别算法。基于改进CLDNN的调制识别算法通过抗过拟合处理措施和改进的CLDNN,具备了较强的泛化能力,即在算法训练数据和测试数据参数相差较大的情况下,仍能够具有较高的识别率;同时,基于改进CLDNN的调制识别算法在典型信噪比条件下,可较为准确的识别CPM这一复杂调制方式,证明了其对复杂调制方式的识别能力。3、提出了基于改进SparseNet的调制识别算法。基于改进SparseNet的调制识别算法通过选择部分具有一定抗噪声能力的预处理和改进的SparseNet,实现了在低信噪比条件下的较高准确率的调制识别,并且,基于改进SparseNet的调制识别算法可在较低信噪比条件下实现对CPM这一复杂调制方式的识别,证明了其在低信噪比条件下对复杂调制方式的识别能力。