在日前的无线通信系统中,扩频通信和大规模天线系统得到了广泛的应用。现在的无线环境中,往往存在着各种复杂的干扰源,使得通信系统的性能降低。为了提高扩频通信和大规模天线系统在干扰信号下的性能,必须采取抑制干扰的措施。目前扩频系统中常见的抑制干扰算法有基于时域滤波和频域滤波的抗干扰方法。大规模天线系统中主要采用基于LS. MMSE的信道估计算法和基于ZF、MMSE的解码算法来完成对导频污染的抑制。基于盲源分离的抗干扰技术只需要利用接收到的信号分离出源信号,来完成抗干扰。现在广泛应用的抗干扰方法需要知道信道先验信息,在信道信息未知时,性能快速下降。因此,盲源分离在通信抗干扰系统中进行研究就显得非常必要。在本文中,提出了两种新的基于盲源分离的扩频通信抗干扰算法和一种新的基于盲源分离的大规模MIMO导频污染抑制算法。针对扩频通信,第一种方法是单通道下基于扩频序列辅助的盲源分离扩频通信抗干扰算法。该算法把干扰信号当作一种信源,利用扩频序列辅助的独立分量分析算法对干扰信号和扩频信号进行分离,从信号整体域统计特性对干扰信号进行估计分离来完成抗干扰的。第二种方法是多通道下基于空时盲源分离的扩频通信抗干扰算法。此算法利用扩频码的周期性提出了空时盲源分离模型,使得混合矩阵中同时包含了扩频码和波达向量的信息,在欠定情况下,通过这种空时盲源分离结构,使得欠定模型转换成超定模型,进而利用基于扩频码辅助的独立分量分析算法来完成盲源分离抗干扰。针对大规模MIMO,提出了基于盲源分离的信道估计和解码算法。该算法在不需要导频训练序列的前提下,利用主分量分析法辅助的独立分量分析算法对所接收到的信号进行完全分离,克服了独立分量分析方法分离顺序的不确定性,得到所需要的用户信道估计和数据信息。理论分析和仿真表明,针对扩频通信,所提出的单通道下基于盲源分离的抗十扰算法比已有的基于双边LMS的时域滤波抗干扰、频域自适应滤波抗十扰方法具有更好的性能；在多天线扩频系统中,所提出的基于空时盲源分离的抗干扰算法比传统的空域滤波抗十扰、空时域滤波抗十扰方法具有更好的抗干扰性能;针对大规模MIMO系统,所提出的基于盲源分离的解码算法,比现在广泛应用的信道信息未知时的ZF、MMSE解码算法,具有更好的性能。