在微波、毫米波系统中,由于波导滤波器具有高Q值、低损耗、高矩形系数及功率容量大而被广泛应用。传统的波导滤波器采用直接耦合谐振腔的方法实现,该方法虽然实现的滤波器具有高矩形系数等优越性能,但是其体积较大,加工较复杂。本文就是为了克服这些缺点而研究并设计新型波导滤波器,使其以小尺寸的结构达到高性能的要求。首先,文本设计了一种紧凑型E面波导滤波器,这种波导滤波器基于传统的E面膜片滤波器进行设计,设计的滤波器整体长度为5mm,即小于半个波长。这种紧凑型E面波导滤波器的设计思想是在原本实现半波谐振器的谐振腔中加载额外的谐振单元,通过产生电磁谐振效应而在滤波器通带的两侧引入传输零点,从而实现改善只有一个谐振腔的波导滤波器的矩形系数,实现高矩形系数的特性。仿真和实验均验证了这种滤波器的可行性。其次,本文设计了一种采用磁感应透明(Electromagnetic Induced Transparency,EIT)效应实现的EIT型波导滤波器,采用新的设计原理设计E面波导滤波器,设计中,理论上滤波器的整体长度小于0.2倍波导波长,这是一种结构比本文提出的紧凑型E面波导滤波器的结构更小,同样是一种小型化的波导滤波器,设计思想是在波导中引入实现EIT效应的明模和暗模,产生本文所需要的透明通带,即可实现带通滤波器的性能。本文设计了两种结构的EIT型波导滤波器,分别进行了大量的仿真和实验验证,其仿真和实验具有很好的一致性。另外,本文设计了一种具有高抑制度的新型低通滤波器,本文首先提出了一种紧凑型腔体谐振单元结构,即紧凑型SRR(Split Ring Resonator)谐振单元。通过合理的设计谐振单元的长度尺寸、级联级数以及级联形式,使其实现了在W波导宽频带内的高抑制度,其可以很大的改善有源器件的端口隔离度。最后,基于本文所设计的新型波导滤波器,本文对其进行了相关应用研究。如将EIT型波导滤波器用于新型双工器设计中,将新型低通滤波器用于宽带频率器研制中,实测结果均与仿真结果吻合较好。总之,本文不仅对新型波导滤波器设计进行了研究,同时也对其可能的应用做了必要的研究,本文所做的创新性研究工作将为波导滤波器的理论设计与工程应用提供一定的理论基础与实践指导意义。