在通信对抗中,单通道技术因其系统设备具有低成本和良好战场隐蔽性的特点而占据重要地位,但现有的单通道时频重叠信号分离方法大多因过高的运算复杂度或分离对象的特殊性而难以实际应用。因此,本文围绕单通道时频重叠信号分离的这一类极端“欠定”问题,提出基于一定先验信息的解决方法。其中,先验信息特指在强弱信号时频重叠的背景下解决分离问题的两种先验条件:其一,已知强信号时域模板;其二,已知强信号调制方式。本文主要研究工作如下:1.本文建立了基于多径信道环境的单通道时频重叠信号的分离问题模型,该模型更符合实际场景下接收端不只是强弱两路信号源分量相互叠加的情况,因而具有更广泛的应用性。并在此基础上提出了一套综合时域波形、频谱能量、统计相关三个层面的衡量分离质量的评价准则,为后续的仿真验证和性能分析提供了理论基础。2.基于先验信息为强信号时域模板,提出了一种利用时频二维相关和扩展关联自适应滤波的弱信号联合分离方法。方法采用了信号相关的思想,首先是对已知信号与混叠信号在时频域的偏差进行联合搜索并做出补偿,得到实际强信号分量,其次是通过扩展关联自适应滤波抵消强信号及其多径,从而分离出弱信号。最后,以调制噪声干扰为仿真对象,验证了方法性能上的优势,并给出了适用条件,研究结果可应用于电子战中已知友协方干扰信号信息的通信接收场景。3.基于先验信息为强信号调制方式,提出了一种利用重构强信号波形和扩展关联自适应滤波的弱信号联合分离方法。基于波形重构的方法利用强信号为混合信号主成分的特点,将多径和弱信号看作干扰,通过对混合信号采取强信号对应的参数估计和解调算法,得到基带信息,进而结合参数估计值重构强信号,在这一方法中,针对模拟调制信号（AM、FM）的组合、不同数字调制信号（ASK、FSK、PSK）的组合形式、强弱信号之间功率比、信噪比对于解调误码率的影响,分别进行了讨论。此外,基于扩展关联自适应滤波的算法利用重构信号与强信号自身的强相关性,通过抵消强信号及其多径,实现弱信号分离。研究结果可应用于电子战中侦察接收机的多信号截获与处理场景。