卫星通信网络由于覆盖面积广，不受自然环境的制约，能够在全球范围内提供统一、无缝覆盖的通信，成为全球通信网的重要组成部分。　　LEO卫星之间通过星间链路进行组网，成为真正的卫星网络。然而由于卫星网络具有拓扑动态变化、信道状态动态变化、业务流量动态变化、能源和存储资源受限等特性，传统协议栈分层设计、优化的方法在卫星网络中只能带来单层的性能最优而达不到全局最优，从而使宝贵的卫星资源得不到有效利用，因此本文采用跨层优化的方法对卫星多跳网络协议栈联合建模设计和优化进行研究，这对提高卫星网络资源利用率，优化卫星网络传输性能具有重要意义。　　本文首先对构成网络协议跨层设计理论框架的跨层建模和凸优化理论进行了概述。先介绍跨层设计的基本思想，分析网络协议各层可以进行交互的相关参数，给出了网络协议跨层建模的一般形式，并对所建立的最优化模型所需要的数学工具-凸优化理论进行了必要的说明，为下面的研究打下理论基础。　　为了解决具有天线数量限制的采用全双工定向天线进行星间连接的卫星多跳网络的跨层优化问题，提出了一种基于网络效用最大化的联合速率控制、路由策略、卫星天线调度和功率分配的分布式跨层控制算法。首先将该问题定义为一个具有多个限制条件的网络效用最大化模型，通过对偶分解的方法将其分解为三个网络协议层上的速率控制、路由、天线调度和功率分配子问题，通过解决各个子问题来达到全网的最优网络效用。该算法能够自适应调节发送端发送速率，在数据传输过程中动态选择传输路径，并在各卫星天线之间进行动态天线调度和功率分配，通过层间参数相互作用，最终达到全网效用的最大化。仿真结果表明该算法能够使系统稳定，并达到较高的吞吐量。　　针对基本的背压跨层控制算法中由于队列长度较长导致的排队时延长的问题，在基于预测的节点服务模型的基础上建立了基于预测的卫星多跳网络背压跨层模型，并提出了一种基于预测的背压跨层控制算法，该算法的核心思想是用未来的队列信息来为当前时隙做出决策，为队列增长快的数据流分配更多的速率，即首先预测未来的队列信息，将未来Dn个时隙的队列和作为链路权重，以此为基础分配功率并得到传输速率，并以此速率来为队列差最大的数据流进行数据传输。仿真结果表明该算法能够有效降低节点中平均队列长度，并减小数据包的排队时延。