通信信号的调制识别是通信和非合作通信领域共同关注的研究课题。近十几年来，由于无线电通信技术的迅速发展和广泛普及，信号环境日益复杂，调制识别技术遇到了不少新的挑战。同信道多信号的调制识别就是其中的主要技术难题之一。同信道多信号的调制识别与常规的单信号调制识别有很大的不同，需要从被加性噪声污染的多个待识别信号的混合波形中识别各个信号的调制形式。已有的调制识别方法，包括基于决策理论的方法和基于统计模式识别的方法，绝大多数都是针对单信号提出的，不能直接用于多信号的识别。因此，迫切需要研究新的方法来解决多信号的调制识别问题。本文主要研究基于统计模式识别技术的同信道多信号调制识别方法。针对时域混叠的多个待识别信号在频域和空域的不同分布，提出了同信道多信号调制识别的两种基本途径，即基于信号分离的多信号调制识别技术和从观测数据直接提取各个信号特征的多信号调制识别技术。具体的研究内容和主要的贡献包括：(1)对同信道多信号的调制识别问题作了详细的分析，给出了单通道宽带接收和多通道窄带接收两种多信号数据采集方式，提出并分析了基于信号分离和直接提取特征的两种多信号调制识别基本途径；(2)研究了通信信号调制识别的特征提取问题，提出了基于已调信号统计特性的特征分析框架，用于指导特征的提取，在此基础上讨论了信号的特征提取、特征的维数压缩以及多特征向量、特征集的构造；(3)研究了用于调制识别的分类器设计问题，并根据待识别信号的信噪比相差悬殊的实际问题以及提取多种特征的需要，提出了基于多特征、多标记的分类器设计方案，并把组合分类器的概念引入到调制识别中；(4)重点研究了基于信号分离的多信号调制识别方法，提出了一种基于半球面天线阵的波束形成信号分离新方法，在此基础上提出了从AR模型参数提取特征的已分离信号调制识别方法，可以得到很好的调制识别性能；(5)重点研究了从观测数据直接提取各个待识别信号特征的多信号调制识别方法，提出了一种基于GAR模型参数的多信号调制识别新方法，并针对时域混叠的两个和三个信号以及这些信号在频域中不同的混叠程度，对多信号的直接提取特征和调制识别作了详细的研究，并给出了大量的计算机仿真结果，证实了该方法的可行性和有效性。