现代信息战与电子战中，通信侦察是通信对抗的基础与前奏。侦察系统面临着复杂、多变的电磁环境，信号越来越密集，频带越来越拥挤。在高密度信号环境中，通信情报侦察设备通常面临着单天线同时截获多个时频混叠信号的情况。为了准确获得某一作战对象的通信参数，单通道时频混叠信号分离技术已成为通信情报侦察设备研制亟待解决的核心技术问题。本文针对此应用环境，开展了单通道时频混叠信号分离算法研究，旨在为通信侦察设备提供理论基础。本文主要的研究工作如下:1、建立单通道分离问题的数学模型，研究了由单通道转多通道的建模方法，使之能够适用于常规多通道分离算法。2、研究了基于独立分量分析的单通道分离算法。总结基于独立分量分析的分离准则和优化算法。构造多通道分离模型，通过独立分量分析，分解出多个独立分量，并选取合适的分量重构源信号，实现信号的分离。详细分析了模型参数的设置和如何选取分量的问题。该算法计算复杂度较小，具有一定的工程应用前景。3、研究了基于非负矩阵分解的单通道分离算法。分析了非负矩阵分解算法特点，将常规非负矩阵分解算法与本文所研究的信号特性相结合。在原有的目标函数中加入行列式准则和最小相关约束条件，平衡各约束条件的权重，然后对构造的多通道观测数据运用改进的非负矩阵分解，实现信号的分离。由于非负矩阵分解算法本身并非基于统计特性，对信号的独立性没有限制，拓展了传统盲分离问题的假设条件，为盲分离提供了新思路。4、研究了基于基展开的单通道分离算法。运用改进的经验模式分解，将混合信号分解为多个固有模态函数作为基向量。结合数字调制信号特征，通过多次经验模式分解，实现时频混叠信号的单通道分离。由于经验模式分解是根据信号特性自适应产生基函数，因此该算法无需训练序列。