为了满足全球网络覆盖和高速通信的需求,从太空提供互联网接入的想法在近几年又重新流行起来。建立太空互联网的主要优势在于卫星的覆盖性高,能够完善和强化地面网络在空中、海上、森林和偏远地区的覆盖。低地球轨道（LEO）通信卫星群以其独特的功能和技术优势再次登上世界网络通信的舞台。为了提供更快、更实惠的通信资源,低轨道卫星需要定制设计卫星,其中波束覆盖设计是用户定制化设计的重要内容。波束覆盖设计不仅能够实现集中通信,而且使灵活波束覆盖成为可能,因此被电磁波相关的众多学科广泛应用,如阵列式超声波、光学和高速无线通信。随着下一代通信的到来,未来大型卫星互联网的灵活性和吞吐量将得到快速提升。但由于无线电频率资源有限,大型卫星互联网倾向于使用毫米波段。本文通过基于用户分布的差异性讨论未来大规模卫星星座网络的波束覆盖类型,引出下一代卫星灵活波束覆盖的必要性。基于低轨毫米波卫星通信的约束,分析出目前低轨卫星波束成形的挑战在于:1.宽带波束斜视;2.高精度波束扫描。此外,本文还对光学控制阵列信号进行了深入研究,对于下一代空间复用技术射频轨道角动量波束（RF-OAM）的生成仍然面临着相位不稳定引起的模式之间的相互干扰挑战。另外如何降低大型相控阵的复杂度和功耗也是仍需要解决的关键问题。因此本文通过以下研究内容克服上述关键问题挑战:1)通过结合用户流量需求模型和低轨卫星波束覆盖模型,本文分析了波束覆盖特性对低轨卫星系统性能的影响。用户流量模型是基于均匀和正态分布的用户模拟地理分布,同时也包括根据实时低轨道卫星所获取的AIS和ADS-B历史数据建立了实际用户地理分布模型。基于此用户分布和流量需求模型,本文通过现有的资料对One Web（代表固定波束覆盖）和Space X（代表灵活波束覆盖）低轨卫星进行了波束覆盖建模。并考虑大气条件所引起的用户链路性能变化。基于上述模型,本文从吞吐量、时延和接入概率等角度,对这两个低轨卫星进行仿真,最后总结和讨论了波束覆盖对用户多样化的敏感性。2)在具有星间链路的低轨通信卫星网络中,采用阵列波导光栅辅助毫米波进行波束成形的光控相控阵具有独特的优势。它可以利用真实时延迟线克服宽带波束成形的斜视问题。又结合借助高精度射频移相器的优势实现超高精度的波束扫描间隔。本文提出并通过理论仿真和实验验证了基于光控毫米波相控阵波束成形系统。通过实验验证该相控阵系统在宽带波束成形后远场图的波束指向精准性（波束切换间隔＜1.8°,波束扫描范围±40°,扫描过程中,2GHz宽带信号无波束斜视）,并与之和其他光控相控阵进行比较。进一步挖掘该系统在多跳透明传输低轨卫星中的兼容性,该系统的优点在于通过波分复用即可对波束的覆盖进行调节,该阵列一个波长对应一个覆盖扫描角度。该光控波束形成系统降低了透明传输低轨卫星实现跳波束时的复杂度,并扩展了透明传输低轨卫星网络的灵活性。3)提出了矢量合成的光控相控阵技术,矢量合成技术可以大大减少控制器的数量。该技术可以通过调节两个输入无源延迟网络的光功率的来实现波束成形,而且不需要移相器,并且该方案的可行性也通过了实验检验。该技术降低了星上载荷的复杂度,降低波束控制系统的功耗。通过调节光的强度,间接地让两个矢量波束实现±10°范围内的波束扫描,并达到小于0.4°的波束扫描精度。4)提出了一种基于使用圆形天线阵列的双波长控制的射频角动量生成和波束转向系统的新方案,采用了一个包含阵列波导光栅结构和微波光子移相器的集成芯片,通过该芯片,可以实现微波光子相移和光学真时延线。并借此实现任意模式的RF-OAM波束,并同时进行无波束斜视的波束转向。双波长的控制更使该芯片的可调时延精度翻倍以激发更多的RF-OAM模式。本文将实验测试的可调节时延数据,进行RF-OAM波束生成的仿真。通过光集成芯片控制RF-OAM波束方向分别在E平面和H平面上从0°变化至14°。仿真结果验证了基于光子芯片的双波长控制方案所生成的RF-OAM波束在二维的方向的转向能力。它还克服了当RF-OAM波束传输宽带信号时,传统RF设备引入相移会导致RF-OAM波束的模式混合和指向偏移的问题。5)提出了一种全新的降维相控阵天线,该降维相控阵天线理论创新性地将波束指向和相控阵权重映射到一个矩阵中。通过使用奇异值乘积的运算将这个矩阵进行压缩,以减少大型相控阵的有源器件数量。本文通过对矩阵压缩过程仿真,挖掘出在实际应用中该理论的约束和优化目标,采用了粒子群优化算法和深度神经网络Transformer对压缩后的矩阵进行优化和加速计算。在这个理论框架的基础上,本文设计了一个4×16的射频移相实验板来验证该理论框架。并通过在不同压缩比例（16阵列/4移相器,8阵列单元/3移相器,4阵列/2移相器）下的波束指向精度和旁瓣高度来论证该理论的合理性。