在非协作通信场景下和认知无线电系统中,信号的调制方式识别都是一项关键技术。找到一种能够有效挖掘出信号本质、稳定的特征,采用不同的分类算法实现通信信号调制方式的自动识别,并且在复杂多样的通信场景下,均能达到所需识别精度的算法,正是该领域亟待解决的关键问题。本课题主要针对目前应急、固定场站等通信设备受到越来越多不确定性干扰的情况,为确定干扰信号的调制类型,深入研究了基于时频分析的数字信号调制方式识别方法。首先,针对六类非平稳数字通信信号,提出了一种基于深度自编码器的数字调制信号识别算法。先对六类数字信号作时频变换,将其从时域表示变换到时间-频率域表示,得到信号的时频图像,然后用深度自编码器对时频图像做深度特征提取,再接多层感知机分类器,进而对信号的调制方式进行识别。仿真结果表明该算法具有较好的鲁棒性,在信噪比为-10dB时仍能有效识别六类数字信号。其次,针对时频分布图不足以用来区分三种MQAM信号的问题,引入多尺度小波熵作为待识别信号的特征,输入BP和ELM神经网络分类器,来识别九类数字信号的调制方式。为进一步提高正确识别率,引入特征增强方法,通过考虑原始特征的高阶和相互作用的项,来挖掘隐含在原始特征中的深层次特性。仿真结果表明特征增强方法能有效优化原始特征,提高分类效果。在上述方法的研究中发现,BPSK和QPSK信号特征交叠严重,识别效果明显差于其他几类信号,针对该问题,提出一种改进的多尺度小波熵数字调相信号识别算法,专门针对PSK类内信号进行调制方式识别;然后提出一种基于特征融合的数字调制信号识别算法,该算法分为两步,第一步先运用多尺度小波熵特征区分出九类调制信号中的非PSK类信号和PSK类信号,第二步对非PSK类信号运用多尺度小波熵进行识别,对PSK类信号用改进的多尺度小波熵进行识别。仿真结果表明本算法能使每一类信号都获得较高的识别率,而且使得信号的整体识别率得到明显提升。