为了保证高质量、高速率无线服务和可靠的传感能力,需要增加带宽的数量。雷达系统占有丰富的频谱资源,并且雷达与无线通信相似的射频前端结构越来越多,因此雷达和通信系统之间的资源共享成为解决频谱稀缺问题的有效手段。同时随着信号处理技术的迅速发展,干扰抑制、预编码、空间分离以及波形设计均为雷达通信一体化提供了良好的基础。从雷达通信一体化互干扰信号的基本特征出发,本文系统地研究了雷达通信一体化互干扰处理涉及的关键技术,包括遍历干扰对齐（Interference Alignment,IA）算法,遍历干扰导向（Interference Steering,IS）算法,相互干扰对齐算法,干扰利用（Interference Ultilization,IU）算法等。主要研究工作和创新点总结如下:（1）分析雷达通信一体化互干扰对通信系统误码性能和雷达检测性能的影响:针对多输入多输出（Multiple-input Multiple-output,MIMO）雷达和多用户（Multi-user,MU）通信系统,以及相控阵（Phased Array,PA）雷达和MU-MIMO通信系统,为了抑制雷达和通信系统之间的互干扰,提出了遍历干扰对齐算法,比较了遍历干扰对齐算法对通信迫零（Zero Forcing,ZF）接收信号和迫零波束形成（Zero Forcing Beamforming,ZFBF）信号的影响。此外,本文推导了MIMO雷达和相控阵雷达原始回波信号以及基于遍历干扰对齐的MIMO雷达和相控阵雷达回波信号在广义极大似然比检测（Generalized Likelihood Ratio Test,GLRT）准则下的检测概率,并研究了遍历干扰对齐算法对雷达接收信干噪比（Signal to Interference Plus Noise Ratio,SINR）的影响。（2）提出一种雷达通信一体化遍历干扰导向算法:针对遍历干扰对齐算法发射机功率消耗大的问题,本文根据互补信道的本质为MIMO雷达和MU-MIMO通信系统以及相控阵雷达和MU-MIMO通信系统设计了一种遍历干扰导向算法。一对互补信道的特征是:选择两个不同的时隙,这两个时隙发射机与其对应目标接收机之间的期望信道不相等,发射机与其他接收机之间的干扰信道相等。基于雷达通信一体化模型,本文推导了基于遍历干扰导向算法的MIMO雷达以及相控阵雷达检测概率。本文还推导了遍历干扰导向算法和遍历干扰对齐算法的发射机功率消耗公式,理论分析和仿真结果均表明遍历干扰导向算法在节省功率开销方面的应用优势。（3）提出一种雷达通信一体化相互干扰对齐算法:针对遍历干扰对齐算法和遍历干扰导向算法通信自由度（Degrees of Freedom,Do Fs）低的问题,提出一种无需重复发送信号的相互干扰对齐算法。遍历干扰对齐算法和遍历干扰导向算法需要占用大量额外的时隙重复发送相同的信号,这会降低通信系统的信道容量。本文根据传统干扰对齐算法最优自由度理论,将干扰对齐算法应用到MIMO雷达和MU-MIMO通信系统中,推导出基于干扰对齐的MIMO雷达检测概率。由于干扰对齐利用“分蛋糕”的模式,将信号空间一分为二:一半用于期望信号,一半用于干扰信号。这种做法会导致雷达系统的Do Fs降低,进而影响雷达系统的检测性能。本文基于此提出相互干扰对齐算法,该算法首先对齐每个接收机的所有干扰至同一个信号空间,然后设计接收滤波器消除干扰。由于相互干扰对齐算法不会降低发射信号空间维度,因此,相比于传统干扰对齐算法,该算法不仅可以保证通信系统的性能,又可以提高雷达系统的Do Fs。（4）提出一种雷达通信一体化干扰利用算法:为了充分利用雷达通信系统之间的互干扰,针对相移键控（Phase-Shift-Keying,PSK）-MIMO雷达和MU-MIMO通信系统,提出数据辅助干扰利用算法。干扰利用算法能够根据信道状态信息（Channel State Information,CSI）和发射端的已知信息,观察互相关矩阵的符号特性,设计一种新的预编码方案,使得系统中有益的互干扰保留,正交化每一个具有破坏性质的干扰符号。基于这一特征,设计了3种ZFBF准则,分析并对比了这3种准则的复杂度特性。本文还分析了干扰利用算法的通信误码性能和雷达系统检测性能。相比于常规干扰抑制算法,基于干扰利用算法的有用信号利用系统存在的有益干扰作为信号功率源,这无需额外的功率消耗即可提高有效的接收INR。