无线信道的复杂性以及通信技术的多样性给通信信号盲接收带来了极大挑战,特别是无线衰落信道的影响,使接收信号发生畸变,为非合作接收条件下的正确解调增加了难度。通信信号的调制识别、信道的盲辨识和盲均衡是无线衰落信道条件下实现信号有效盲接收的两大关键技术,前者是正确解调的前提,后者是克服信道衰落的重要手段,两者既相互独立,又相辅相成。本文围绕衰落信道中的调制识别、信道盲辨识和盲均衡技术进行了深入的研究。首先,本文就衰落信道条件下OFDM调制信号和数字单载波调制信号的区分问题进行了深入研究。首次提出Rayleigh衰落信道条件下的调制识别算法,推导出调制识别特征,并利用联合信噪比估计和调制识别方法进行分类。这种算法具有可扩展性,本文将其推广到了短波恶劣信道模型中,推导出相应的识别特征。大量实验表明,在低信噪比条件下,观测样本数足够长(＞2000),OFDM信号中子载波数足够多(＞4)时,算法具有较高的识别率。其次,本文就线性时不变衰落信道中高阶QAM信号的调制识别问题进行了深入研究,提出基于双模式盲均衡的联合盲均衡和调制识别算法。在现有双模式盲均衡算法的基础上,通过理论推导,提出了总体性能较优的改进的HY-NCMA算法,并以其为核心构造均衡器组。摈弃了现有的两步算法思想,提出以均衡器输出均方误差作为新的识别特征,依据均方误差最小原则进行分类,充分利用了均衡器的输出结果,避免了复杂的调制识别环节。新算法减小了数据量和运算量,提高了识别率,在获得调制方式的同时,能够获得良好的均衡结果。仿真结果证明了算法的有效性。第三,针对存在深衰落的线性时不变信道,本文深入研究了基于循环平稳二阶统计量信道盲辨识和盲均衡的MPSK和MQAM信号调制识别问题。首先在信道阶数已知条件下,提出了基于子空间信道盲辨识和盲均衡的调制识别算法,与现有算法相比,扩大了可识别调制类型的范围,提高了识别率。由于实际中不可能预先知道信道的阶数,本文从实用角度出发,分析了现有信道阶数估计算法的缺陷,提出了改进的信道阶数估计算法。在未知信道实际阶数,仅知道信道阶数上界的条件下,提出了稳定性较高的改进的OPDA信道盲辨识算法。将此算法与多级减法聚类算法相结合,提出了基于改进的OPDA信道盲辨识和盲均衡的调制识别算法,首次实现了未知信道实际阶数,仅知道信道阶数上界条件下的MPSK和MQAM信号的调制识别。本文还将改进的信道阶数估计算法引入上述基于子空间信道盲辨识的调制识别算法中,并与基于改进的OPDA信道盲辨识和盲均衡算法进行了比较。大量仿真验证了算法的有效性。最后,针对线性时变衰落信道条件下的调制识别,本文对其中的关键环节—线性时变信道的盲辨识问题进行了研究。就双选择性信道的盲辨识,以离散正则模型为基础,提出了基于改进的矩阵外积分解的两级信道盲辨识算法。与同类算法相比,新算法不需知道信道的实际阶数,只需知道信道阶数的上界,提高了算法的实用性。