迅速增长的无线通信业务需求，对无线通信系统提出了越来越高的要求。目前的地面和卫星无线通信平台存在诸多缺陷，而近年来逐渐受到关注的平流层通信平台(亦称高空通信平台)，则凭借其诸多不可比拟的优势，诸如信道时延扩展小、抗衰落能力强、覆盖范围大、覆盖灵活、终端设备简单、艇载设备更新维修方便、建设成本低、可提供多层次业务，等等，已成为当前无线通信领域的研究热点之一。 多波束天线系统是平流层通信平台的关键组成部分，平流层通信平台的自身特点对其天线系统提出了众多苛刻要求，其波束数量、系统复杂度等许多方面都超越了当今世界上正在使用的工程系统，包含了天线、通信、信号处理等多学科的许多前沿技术。对平流层通信中的天线系统的研究具有工程、产业、学科发展等多方面的重要意义。 平流层通信平台天线系统的方案包括两大类：用于毫米波波段的高增益天线阵元组成的多波束天线，和用于较低频段的采用数字波束成技术的多波束自适应天线，本文针对这两种方案分别展开研究。 在高增益天线阵元方面，提出多项用于径向线缝隙天线及其馈电电路的分析与设计的数值计算技术，这包括：1)带接地板介质层空域格林函数的快速计算方法，2)多层平面电路谱域无穷积分的极点处理技术和积分加速计算技术，3)共面波导传输线特征参数的快速全波提取模型。这些技术可大大提高数值计算效率，为今后建立完整的全波分析设计模型奠定基础。 在数字波束成形和自适应天线技术方面，主要做了两项工作，第一项是对盲波束形成算法——最小二乘广义模算法展开研究，分析了算法的收敛特性和噪声捕获特性，得到了收敛速度和模指数的关系，并提出了避免噪声捕获的方法，并将算法推广到多用户情况下，提出迭代最小二乘投影广义模算法。第二项是对用于OFDM系统的自适应天线进行研究，在分析现有方案的基础上，提出了基于波束空间信道状态信息估计的Pre-FFT自适应天线方案，该方案有效地克服了原有阵元空间方案在抗干扰，特别是抗强干扰性能方面的不足，并且其波束空间的方法非常适合应用于配置大量阵元的平流层通信平台。 本文的工作可望为今后对平流层通信平台天线系统进行进一步研究打下良好的基础。