在第五代(5G)移动通信系统中需要具有高性能的微波和毫米波滤波器以实现高传输效率。不幸的是,由金属波导设计的滤波器不再适用于高度集成的小型模块和系统;微带滤波器抗电磁干扰弱,辐射泄漏严重,传输损耗大,引起强烈的信号干扰,降低了 5G传输效率;但是,传输TE模式的基片集成波导(SIW)滤波器是集成和小型化的一种选择,同时,本文提出了一种新型的集成基片间隙波导(ISGW)结构,采用多层基板集成,利用人工磁导体结构实现自封装功能,是设计小型化集成微波和毫米波滤波器的一大优势。本论文将ISGW技术与混合电磁耦合相结合,完成了以下关于滤波器研究和设计的工作:(1)通过倒置微带线法和HFSS本征模色散法测量和分析电磁带隙(EBG)结构的带阻特性。通过分析电介质板厚度,介电常数,损耗角正切,周期性单元周期,金属通孔直径和介质基板上的圆形金属贴片直径,得到了EBG带隙的最佳设计。上述参数变化的影响规律,将用于设计ISGW和后续的滤波器。(2)采用LC电路将(1)中EBG结构进行等效,通过带隙的中心频率和带宽的计算表达式来解释归纳了带隙变化的机理。利用该带隙结构的阻带特性设计了两款介质层数和微带线布置方式不同的集成基片间隙波导。通过实验证实两款波导在K、Ka波段上具有良好的传输特性,在传输准TEM模式下并实现了自我封装。(3)采用与K倒置变换器特性相反的J倒置变换器对混合电磁耦合模型进行电路等效分析。并结合金属通孔与缝隙混合耦合的滤波器,分析金属通孔和缝隙分别对传输零点位置和通带的影响;通过本征模式求解分析加载金属通孔的谐振腔场结构和谐振频率的变化,得出了通孔所在位置和自身尺寸大小对谐振频率及激励模式的影响规律。从等效电路理论出发分析了缝隙的等效电感和等效电容对传输零点位置及带外抑制性能的影响。(4)基于集成基片间隙波导技术和上述研究,采用金属通孔和倒“U”型缝隙级联的方式,提出了一款具有双传输零点和宽阻带的宽频带通滤波器。该滤波器通带内回波损耗在-17dB以下,插入损耗小于1.5dB。通孔耦合使得中心频率处于18GHz处,3dB带宽为5.82GHz,因此相对带宽比为32.2%。混合电磁耦合实现了两个传输零点(TZ)分别在14GHz和22.8GHz处;利用缝隙耦合实现8GHz-14GHz的宽下阻带以及22.8GHz-30GHz的宽上阻带,带外抑制达到-30dB或更低;在15.02GHz到20.84GHz频带内群延时稳定保持在0.4ns到0.5ns。该滤波器采用对称,简单,灵活的结构,低成本材料设计,并具有良好的传输性能。最后,加工并测试滤波器,由于实验误差和组装工艺精度,测试结果在阻带中略差,但其他性能与仿真基本一致。