在定向能、电子对抗、雷达领域应用需求的推动下,研制具有高功率、高效率和小型化特点的毫米波HPM源成为HPM技术领域的迫切需求。本文通过理论计算、电磁仿真、粒子模拟相结合,旨在解决相对论返波振荡器向更高频段发展面临的功率容量、模式控制、强流电子束传输等关键技术难题,从理论上全面系统分析大过模比同轴慢波结构工作在毫米波段的可行性,为HPM源向更高频段发展探索可行的技术路线。本论文主要工作如下:一、研究不受边界限制的任意周期形状的同轴SWSs的EH模色散方程及冷腔高频特性;利用大半径近似的处理,研究求解径向无限长SWSs的色散方程,并对比了轴向与径向的色散曲线,得出径向SWSs不能工作在准TEM模的结论。二、研究加载有限厚度电子束的同轴SWSs的TM_0n模式色散关系和场分布,给出了耦合阻抗、时间增长率的计算方式。对比研究同轴SWSs内、外、双波纹的色散特性、功率容量特性和耦合阻抗特性,讨论不同波纹位置和内外波纹相差对高频特性的影响。内波纹具有更高的耦合阻抗,外波纹具有更高的功率容量。三、设计一个高功率、高效率、高模式纯度的57GHz基模准TEM模工作、TM₀₁模衍射输出的同轴相对论O型Cerenkov振荡器。在电子束电压520kV电流2.47 kA的条件下,可以得到频率为56.8GHz平均功率560MW的微波输出,对应束波转换效率43.5%。饱和时间为15ns,输出微波中TM₀₁模模式纯度为98%。从理论上详细阐述了高效率、高模式纯度的工作机理。四.设计一种采用内外导体间隙略大于λ的大过模比同轴SWSs,研究工作模式为同轴TM₀₂模的60GHz相对论返波振荡器,初步仿真得到功率196MW,效率21%的微波输出。表面场强下降到0.9MV/cm,相比基模工作具有更高功率容量。