通信、雷达等技术的迅猛发展,对系统小型化、轻量化提出了越来越严格甚至苛刻的要求。滤波器作为系统中频率组合、分离的关键部件,在实现小型化、轻量化的基础上,还需要实现更好的选择性和带外抑制特性。论文对广义切比雪夫滤波器进行了系统研究,结合混合电磁耦合理论,研究了平面混合电磁耦合谐振器、多层混合电磁耦合单元、多通带混合电磁耦合谐振器等多种新型结构滤波器,这些滤波器具有体积小、重量轻、带外抑制性好的优点。首先,论文对广义切比雪夫滤波器的基本数学模型、多项式综合理论及传统交叉耦合理论进行了系统分析。基于上述综合理论,在传统耦合矩阵中引入频变耦合项,构成频变耦合矩阵,并对此频变耦合矩阵进行了理论分析及实例验证,得到了混合电磁耦合矩阵。由于频变耦合项的引入,在滤波器带外产生了额外的传输零点,拓展了广义切比雪夫滤波器的类型。其次,通过在传统的半波长阶跃阻抗谐振器单元引入分布式电容实现电耦合,引入短路线实现磁耦合,并通过控制电耦合和磁耦合的强度及比例关系构成了混合电磁耦合谐振结构。基于该方法设计了多种广义切比雪夫滤波器,这些滤波器实现了更多的传输零点。基于该谐振耦合结构的四阶混合电磁耦合带通滤波器在不引入交叉耦合、源负载耦合的情况下产生了三个传输零点;基于该谐振结构的三阶混合交叉耦合滤波器通过在交叉耦合臂引入混合电磁耦合项,产生了三个传输零点;通过将两级该谐振结构短路端连接的方式构成的盒型混合耦合滤波器,相比传统盒型结构滤波器具有更多的传输零点,从而实现了更高的频率选择特性。再次,研究了多种新型阶跃阻抗谐振结构的多通带混合电磁耦合滤波器。通过在传统四分之一波长阶跃阻抗谐振结构上加载开路线形成一种多模谐振结构,采用该方法设计了多种混合耦合双频、三频带通滤波器,由于混合电磁耦合的抵消效应可在滤波器通带附近产生多个传输零点,得到的双频、三频带通滤波器具有结构紧凑、频率选择性高的特点。将传统阶跃阻抗谐振结构中的低阻抗线采用闭合环替代,研究了闭合环型阶跃阻抗谐振结构,得到的新型谐振结构不仅具有传统阶跃阻抗谐振结构的特性,同时实现了谐振器的小型化设计,而后基于该结构设计了一款结构紧凑、选择性高的双频带通滤波器。将上面两种谐振结构进行组合设计了一种新型多模谐振结构单元,并将该结构单元用于三通带滤波器的设计,实现的三频带带通滤波器结构更加紧凑。最后,为进一步实现滤波器的小型化、紧凑型设计,研究了三维混合电磁耦合谐振单元。该谐振单元基于半波长阶跃阻抗谐振结构,充分利用多层结构实现谐振器内部的电磁耦合,与平面结构相比,谐振器具有更小的体积。论文基于该结构设计了三维结构的交叉耦合滤波器、三维结构的混合电磁耦合滤波器。这些滤波器具有结构紧凑、频率选择性好、阻带抑制宽等优点,同时,这些滤波器能够采用普通的印制板工艺制作,具有加工方便,制作简单方便的优点,有利于此种结构滤波器的推广应用。