随着通信技术的发展，无线通信环境日益复杂，通信信号在很宽的频带上采用了多种调制方式，同时这些信号的调制参数也不完全相同，如何有效的监视和识别这些信号，在军事和民用领域都是十分重要的研究课题。神经网络分类器具有很强的模式识别能力，能较好地处理复杂的非线性问题，而且具有较好的稳健性和潜在的容错性，在调制识别中被广泛应用。　　 论文主要研究了基于神经网络的自动调制识别算法。以BP神经网络为研究的切入点，介绍了BP网络结构和标准BP算法，研究了多种改进BP算法，包括LM算法，Powell-Beale共轭梯度BP算法，尺度化共轭梯度BP算法，动量BP算法以及弹性BP算法，并根据给定实际问题的复杂性、训练样本集的数量以及网络的用途，给出了各种算法在应用方面的一些结论，从输入输出的预处理、隐层数以及选择训练集三方面研究了BP网络的设计。　　 根据现有应用BP网络进行调制识别的方法，论文研究了基于改进BP网络的调制识别方法，提取了各个调制方式的特征参数，并研究了网络参数设置对网络性能的影响，包括初始权值，训练步数及网络学习速率。构建了有效识别调制信号的弹性BP神经网络分类器(REBPNNC)，并比较了基于决策理论的逐级调制识别方法与基于改进BP网络的调制识别方法的性能差异，得出了基于弹性BP网络的调制识别的正确率优于基于决策理论的逐级判决调制识别正确率的结论。　　 对应基于有导师学习法的BP网络，论文又研究了一种基于无导师学习法的SOM神经网络应用于调制识别，介绍了它的基本结构及学习算法，并基于原学习算法，从如何选择网络的邻域函数及学习速率的角度出发，通过选用最优的网络参数，给出了SOM的改进学习算法。仿真结果表明：与传统SOM相比较，改进SOM对不同调制信号具有更好的调制识别性能。　　 最后，论文提出了一种协作调制识别(CMR)方法应用于认知无线电(CR)系统，用于识别主用户的调制方式。着重探讨低信噪比情况下的调制识别的改进方法，通过用户间的协作，当其中任意一个CR用户的信号较弱时，CMR方式明显改善了调制识别的正确率。仿真结果表明：与非协作的调制识别方式相比，CMR方式具有更高的调制识别正确率和较强的鲁棒性，所以CMR方式可以应用于CR中识别主用户的调制方式。