随着近代卫星通信系统网络容量和用户数量的快速增长,多波束天线出现并得到了广泛的应用。多波束反射面天线具有主瓣窄、增益高、结构简单、性能优良等优势,通过空间隔离实现频率复用,提高了卫星通信系统的通信容量和频谱利用率。采用增强型波束成形法与多端口放大器相结合的多波束天线系统,可以有效提高功率放大器的利用率,减少单个功放对于波束性能的影响,提高了天线系统的鲁棒性。因此,本文以增强型多波束反射面天线波束成形优化和天线系统功率优化设计为主要对象进行研究,具体从以下三个方面展开工作:1.首先研究了多波束天线系统的基础原理。介绍了影响天线性能的基本参数,重点分析了波束形成矩阵、多波束反射面天线和多端口放大器的工作原理与实现方式,并研究了空间多波束频率复用方案与同频干扰问题。2.针对增强型多波束反射面天线空间波束成形进行优化设计。详细阐述了馈源阵列激励优化原理,在给定期望方向图的情况下,设计了函数拟合法和包络采样法两种方案,分别对波束成形优化目标函数进行构建。通过引入最优稳态保存策略和伪并行遗传进化策略对遗传算法进行改进,提出了一种基于改进遗传算法(Improved Genetic Algorithm,IGA)的馈源激励系数优化算法,对构建的不同模型进行优化求解。通过仿真得到:两种模型优化形成的64个波束满足系统要求,主瓣增益大于49.65d Bi,同频复用载干比大于12d B;但从合成波束的形状、主瓣宽度和副瓣的拟合情况来说,包络采样法效果优于函数拟合法。3.针对增强型多波束天线系统输出功率进行优化设计。详细研究了基于多端口放大器的多波束天线系统原理,设计了基于分割多端口放大器(Divided Architecture Based on Multi-port Amplifier,DA-MPA)的增强型多波束卫星天线激励映射模型。通过引入混合进化模型和自适应参数控制策略对差分进化算法进行改进,提出了基于改进差分进化算法(Improved Differential Evolution Algorithm,IDE)的多波束卫星天线激励映射算法,针对不同仿真场景下多波束天线系统激励映射关系进行优化设计。仿真表明:采用基于IDE的多波束卫星天线激励映射算法优化目标激励映射关系,可以有效地抑制输入混合矩阵对于相干信号的影响,相较于传统无激励映射模式,天线系统功率效率提高了46.89%。