随着无线通信技术的发展，有限频带内的通信信号越来越密集，信号间同频干扰严重，对于这种混合信号，传统的处理方式已经无法满足信号检测和调制分析需求。因此，针对基于单通道接收的混合信号，本文研究了信号的盲检测及调制分析问题，主要内容如下：1.针对单通道混合信号的特点，采用了混合信号的通用数学模型，然后对混合信号的小波特性、循环平稳特性、高阶统计特性等进行了分析讨论。2.针对单通道混合信号盲检测与个数估计问题进行了研究。首先采用一种基于特征值分解的盲检测算法，研究了检测性能与估计维数的关系，在不损失性能前提下降低了算法复杂度；然后采用小波变换、小波降噪和方正弦波插值联合的算法实现了信号个数的估计，该算法能有效地检测出信号奇异点，以便于谱线的提取，仿真结果验证了该算法的有效性和良好性能。3.针对单通道混合信号参数估计的问题进行了研究。首先对其循环平稳特性进行了分析，讨论了不同累积量与不同截面循环谱所反映的信号载频与码元速率的关系，然后重点分析了基于循环谱的参数估计方法，从不同截面的关联性出发解决了参数配对的问题，并采用形态学滤波的思想优化提取谱线，对采用循环谱的参数估计算法进行了仿真验证。最后论证了采用联合算法能够实现MPSK、MQAM混合信号参数的估计，该联合算法能够实现参数配对且适应信号类型较多。4.针对单通道混合信号调制识别的问题进行了研究。在基于载波同步与定时同步的条件下，对混合信号高阶统计特性进行分析，得到了混合信号的各阶累积量与单信号的相互关系，给出了一种基于高阶累积量的混合信号特征提取算法。之后，推导了核Logistic回归分类器的分类流程，然后对不同类型分类器进行了分析及性能比较，最后采用混合核支撑向量机对提取特征进行分类，实现了MPSK、MQAM信号混合情况下的调制识别。