近年来,信息与通信技术的迅猛发展在满足了日益增长的移动业务需求的同时,也加快了对电磁频谱资源的消耗。随着移动互联网与智能终端的兴起,激增的接入需求与有限的频谱资源之间的矛盾被进一步激化,而各类用频设备的大规模投入也考验着通信系统的安全性。理论上,当某种无关信号的频率范围与电磁波接收机的工作波段相同或部分重叠时,无关信号就成为一种电磁波干扰,妨碍接收机对其期望信号的检测与获取。通过主动抑制接收机中的同频电磁干扰,可实现期望信号与该无关信号在相同的电磁频谱中工作,以达到“频谱共生”的目的。根据不同的应用场景,构建频谱共生环境可用于提升频谱资源的利用效率、增强电磁设备的通信安全、解决复杂电磁环境中的电磁兼容等问题,取得对电磁频谱的全面利用与控制,以逼近未来无线通信的发展需求。为构建频谱共生,须对自身设备所接收的同频电磁干扰进行有效抑制,而实际收发信机中的模拟器件存在固有的非理想特性,特别是发射机使用的功率放大器,使得同频电磁干扰携带大量的非线性分量,限制了干扰抑制性能。本文针对频谱共生环境中的非线性干扰抑制,展开理论和方法研究,具体贡献如下:第一,研究了频率偏移约束下的频谱共生非线性干扰抑制。由于收发两端的本地振荡器存在不稳定性,使得非线性干扰出现频率偏移现象,产生了时变非线性参数,严重制约非线性干扰的估计精度与抑制性能。首先,分析了频率偏移对非线性干扰的建模、抑制以及频谱共生环境安全容量的影响。进一步,提出了一种频率偏移约束下的非线性干扰抑制方法,通过对非线性干扰进行泰勒级数展开,重构非线性核函数使时变参数转为时不变形式,避免频率偏移对参数估计的影响,使所提方法具有频率偏移的稳健性,从而缓解了收发两端对振荡器稳定度的需求,并简化了非线性干扰的抑制流程。第二,研究了时间延迟约束下的频谱共生非线性干扰抑制。由于本地参考信号与非线性干扰信号受时间同步精度的限制,而存在分数倍的时间延迟,导致非线性参数难以被准确估算,降低了对消信号的重建精度。首先,分析了时间延迟对非线性干扰的建模、抑制以及频谱共生环境安全容量的影响。进一步,提出了一种时间延迟约束下的非线性干扰抑制方法,通过对非线性核函数进行线性插值,使所提方法具有时间延迟的稳健性,降低了抑制架构对时间同步的精度需求,并确保了参数估计的准确性。第三,研究了时频二维误差约束下的频谱共生非线性干扰抑制。综合考虑时间、频率同时存在误差的情况,分析了时频二维误差对非线性干扰抑制性能的影响。进一步,提出了一种时频二维误差约束下的非线性干扰抑制方法,所提方法同时对非线性核函数进行线性插值、对时变非线性干扰进行泰勒级数展开,通过重组并构建三组非线性核函数,得到具有时频误差稳健性的非线性干扰抑制架构。所提方法缓解了时频同步对工程实践的约束,并优化非线性干扰的抑制流程。第四,研究了存在I/Q失衡的频谱共生非线性干扰抑制。当众多模拟器件的非理想特性同时存在,特别是正交混频器I/Q失衡、功率放大器非线性失真、不稳定本地振荡器的综合影响,导致实际的干扰模型变得复杂、难以表征。首先,分析了非理想模拟器件对非线性干扰的影响,定量揭示了各种干扰分量的功率关系,为器件选型与链路预算提供理论参考。进一步,提出了一种I/Q失衡下的非线性干扰抑制方法,所提方法以无记忆非线性模型为基础,在综合建模了I/Q失衡与频率偏移效应后,进一步拓展了模型的记忆深度,并构造了简洁的非线性核函数以完备表征出所有的干扰分量,克服了实际模拟器件对抑制性能的限制。本文对频谱共生环境中的非线性干扰抑制展开研究,从工程实践的角度出发,涉及到实际非理想因素的约束分析、相关抑制算法和架构的设计,研究结果为构建频谱共生提供了借鉴和参考,可应用于移动通信、卫星通信、电磁兼容以及电子战等场景,兼备军民两用的潜在价值。