全双工是一种在同一频带中同时进行发送和接收的双向通信技术,与传统的半双工系统相比,该技术在理论上能够将频谱效率提高一倍,使频谱资源得到充分利用。但是系统自身的发射信号会对接收链路造成严重的自干扰,使目标接收信号难以被正确还原。因此,如何有效抑制和消除接收端的自干扰信号是实现全双工通信面临的最大挑战。自干扰信号的产生主要是由于天线端能量的泄漏、射频通道间的相互耦合等,因此在射频域进行自干扰消除是最直接有效的方式。本论文围绕全双工通信系统射频端的自干扰问题,在通道间的耦合、天线端的自干扰抑制及消除方法方面开展了深入的研究。论文的主体内容可以概括如下:1.毫米波全双工系统中相邻通道的耦合研究:毫米波频段常采用SIW传输线进行电路设计,但由于其结构非完全封闭,通道间的能量泄露和耦合仍有可能增加全双工系统的自干扰。本文提出一种基于传输线等效模型的电路分析方法,针对两个相邻SIW通道的泄露和耦合问题,直接推导出相邻通道之间的耦合度。为了证明所提出的计算方法的有效性,设计了三个不同耦合度的SIW耦合器,理论计算结果和仿真测试的对比验证了该方法的有效性。2.基于有源准环行器的自干扰抑制研究:对于发射和接收链路共用天线的全双工通信系统,其射频自干扰抑制主要依靠环行器/准环行器的端口隔离。本文结合Ga N HEMT的单向放大和高功率容量特性,基于路径抵消法设计了一款工作在28 GHz的有源准环行器。该有源准环行器通过构建两条自干扰信号传输路径,并控制晶体管跨导使两路自干扰信号等幅反相,从而使发射信号到达接收端口时叠加相消,实现了自干扰的抑制。实验表明所提出的有源准环行器具有电路结构简单、收发隔离度高,插入损耗低、功率容量高等优点。3.收发天线分离的自干扰消除方法:对于收发天线分离的全双工通信系统,（a）围绕交叉极化天线的自干扰抑制问题,使用基于反射终端的自干扰消除方法,提出了一种具有宽带自干扰消除性能的缝隙耦合贴片天线。通过引入辅助端口并加载反射终端,构建间接耦合路径,进一步抵消交叉极化天线的残余自干扰信号,从而在较宽的频带内获得更高的端口隔离。（b）首次提出具有频率可调功能的双天线去耦网络,分析了其工作原理和设计方法,并将可调去耦网络应用到频率可调单极子双天线结构中,实现了传输系数零点随天线谐振频率同步变化。该设计方法对天线结构本身没有限制,可以独立于天线进行设计,具有较好的普适性。4.毫米波自封装的宽带高隔离全双工天线:为了满足5G毫米波全双工通信对天线宽带和高隔离度的需求,结合介质集成悬置线工艺的自封装特性,提出（a）自封装宽带差分馈电偶极子天线,该天线阻抗带宽高达58%,并且实现了稳定的增益和辐射方向图。（b）适用于全双工通信的宽带高隔离双天线结构,通过在两个天线中间加载去耦枝节,抑制空间耦合电场,实现收发天线的宽带隔离,为宽带毫米波全双工通信提供了自封装天线的设计方案。