随着通信技术的不断发展,通信信道及环境的动态不确定性特征日益突出,因此给信息的有效性和可靠性传输带来了困难。而调制识别技术作为可靠通信的一项关键技术,在通信、频谱管理以及军事侦察等领域有着广泛的应用。本文的选题来自国家自然科学基金课题(项目编号:61471061),研究内容主要解决动态不确定情况下,特别是时变衰落信道下的调制识别有效算法问题。论文主要研究工作包括两个部分:一是不考虑时变衰落信道的动态时变特性,而是基于接收信号的特征进行调制识别。此部分的研究工作共研究了两种全新的调制识别算法:第一种算法是首次提出的基于深度学习的调制识别算法,本算法摒弃了传统算法繁杂的参数或者特征提取过程,直接利用深度学习算法,以及信号的时域幅度图特征和频谱特征进行调制识别,理论分析和计算机仿真结果表明本算法具有较高的识别精度。第二种算法是基于星座图聚类分析的调制识别算法,该算法计算复杂度低、实现简单,在高信噪比情况下具有良好的性能。二是充分考虑时变衰落信道的动态时变特性,基于似然函数的调制识别。此部分的研究工作提出了一种全新的基于贝叶斯序贯推理的自适应调制识别算法。基于新提出的动态状态空间模型,充分利用时变信道的先验转移特性,设计了一种新的贝叶斯序贯推理算法,通过对信道状态增益和调制方式联合估计来达到自适应调制识别的效果。根据不同的映射规则分为两种情况。第一种是信道增益与调制方式一对(Single to Single,S2S)映射情况,将贝叶斯序贯推理法与平均似然比检测(Average Likelihood Ratio Test,ALRT)算法、导频辅助估计方案进行对比,通过仿真验证算法的可行性。第二种就是M2S(Many to Single)情况,对比优先估计信道增益的解决方案与优先估计调制方式的解决方案,通过实验仿真验证不同方案的优缺点。论文的结构介绍如下:第一章是绪论,主要介绍调制识别技术的产生背景、国内外研究现状以及本文的研究内容。第二章研究了两种静态调制识别算法。首先提出了一种基于深度学习的调制识别算法,进行简单的特征提取再运用深度学习网络进行调制识别,通过仿真分析,识别精度要高于BP(Back-Propagation)神经网络。接着研究了一种基于星座图聚类分析的调制识别算法,使用减法聚类,通过仿真分析,算法简单易懂,但是抗噪声能力差。第三章研究了传统的动态调制识别算法,包括ALRT算法、导频辅助估计方案的系统模型和算法流程。第四章研究了基于贝叶斯序贯推理的自适应调制识别算法。阐述了算法的系统模型和贝叶斯序贯推理流程,仿真分析发现,在S2S情况下,无论莱斯信道还是瑞丽信道,新算法识别精度和计算复杂度要优于ALRT算法,差于导频辅助估计方案。第五章研究了 M2S情况下新算法两种不同解决方案的算法流程。仿真分析发现,随着信噪比增比,相比于方案二对信道增益边缘化,方案一充分利用信道信息,性能提升要更快。第六章对本文进行总结展望。