目前,通信技术正快速发展,新的调制方式也层出不穷。无论是民用还是军用,接收端在进行解调等信号处理的过程中,都需要调制识别这一技术的有力支持。因此,调制识别技术的研究具有至关重要的意义。传统的调制识别算法中,运算复杂度高,往往需要人工设定阈值。尤其在非合作通信下,先验知识较少以及信道环境较为恶劣,提高了正确识别调制方式的难度。当下深度学习技术迅速发展,在无线通信领域,广大学者逐渐将神经网络算法应用于通信信号调制方式识别技术中,且取得了较好的效果。本文将继续深入研究神经网络算法在通信信号调制识别中的应用以及所能达到性能效果。本文的主要研究内容如下:针对通信信号的传统预处理过程较复杂的问题,对于通信复基带信号,本文构造了一种改进的CLDNN(Convolutional,Long short-term memory,Fully connected Deep Neural Networks)模型,并将该模型应用于通信信号调制识别领域中。使用复数卷积层替代实数卷积层,实现了端到端的调制信号识别。通过使用公开数据集对改进的CLDNN模型进行训练,研究复数卷积层数量、LSTM层数量、卷积核数量对网络识别性能的影响,从而确定网络性能较好时的部分参数。同时通过仿真结果可知,与其他网络结构的识别性能相比,该网络结构的识别准确率更高,且一定程度上比较容易收敛,比基于高阶累积量的调制识别算法的平均识别性能更好,说明了改进的CLDNN网络的优越性。在研究过程中发现,神经网络对噪声敏感,低信噪比时的调制识别性能较差。为了解决这个问题,本文在卷积神经网络中结合使用Finetune迁移学习和中心损失算法,并将该网络模型应用于调制信号识别中。通过仿真结果可知,对于被不同程度噪声干扰的调制信号,在一定范围内,Finetune迁移学习算法和中心损失算法的应用使识别准确率得到提升,并从一定程度上提高了网络训练的稳定性。说明两种算法的结合使用,能有效提高被噪声污染的调制信号的识别性能。