深空通信是保障空间科学活动顺利实施的重要手段之一。随着深空探测任务日趋精细、载荷性能不断提升、基础设施逐渐增多,深空通信呈现出业务类型多样化、科学数据海量化、信息传输网络化的发展趋势,对提升数据传输效率带来了极大的挑战。本文面向深空通信的发展趋势及需求,在明晰深空长距离及时变特性制约传输性能的基础上,基于网络化的多跳传输体制,通过优化CFDP(CCSDS File Delivery Protocol)及LTP(Licklider Transmission Protocol)协议的传输机制,提出了CFDP双重传延迟型NAK(Negative Acknowledgement)传输协议,设计了匹配深空时变信道的CFDP自适应传输策略,给出了LTP单会话异步加速重传方案和LTP多会话数据聚合方法,探索了深空文件传输协议的传输机制与优化方法,有效提升了深空环境下的数据传输效率。具体研究了以下内容:首先,论文研究了CFDP协议在AWGN(Additive White Gaussian Noise)信道中的高效传输问题。在明确Ka频段信道特性及信道建模的基础上,针对长距离带来的长时延以及高误码率引起的频繁重传导致文件传输时延过长的问题,对延迟型NAK模式的传输过程在AWGN信道中建模,验证了传输模型的正确性,仿真发现在深空环境下传播时延与重传回合数主导了文件传输时间。基于建立的网络模型及传输模型,采用减少重传回合数来缩短文件传输时间的方法,提出了CFDP双重传延迟型NAK传输协议。在GEO(Geostationary Earth Orbit)、地月及地火场景中,对比验证了协议在长距离、高丢包率深空链路上的高效传输性能。其次,论文研究了CFDP协议在深空时变信道中的自适应传输问题。未来深空通信将广泛采用Ka频段传输,但降雨衰减严重影响着通信质量。针对信道时变特性导致CFDP协议性能变差的问题,建立了时变信道模型及天气状态预测模型,设计了基于反馈信道状态调整速率的自适应传输策略。联合天气状态预测模型将自适应传输策略建模为部分观测马尔科夫决策过程,证明了传输策略的最优性及策略选择原则,确定了阈值的存在性及可选策略空间。给出了一阈值、二阈值情况下的增益闭合解,利用值迭代算法验证了传输策略在两种阈值空间内的最优性。在地火场景中,通过对比4种传输方案验明了自适应传输策略在深空时变信道中的有效性。第三,论文研究了LTP单会话传输中的异步加速重传问题。因LTP仍然延续了CFDP延迟型NAK模式的设计思想,针对延迟型重传机制在极长链路中导致重传数据得不到及时恢复的问题,对LTP数据块传输过程在AWGN信道中建模,在验证传输模型正确性的基础上,深入剖析了LTP单会话传输机制以及制约数据块传输的因素。为了更早地恢复丢失的数据,提出了接收端提前触发的异步加速重传方案。推导了5种异步加速重传情况下的平均文件传输时间,并对比了地月、地火场景中采用异步加速重传前后的性能变化,证实了异步加速重传方案能加速重传启动过程并缩短文件传输时间。最后,论文研究了LTP多会话传输及数据聚合问题。由于深空信道极其珍贵,针对LTP单会话传输中信道利用率不足的问题,提出了采用并发开启多个会话来提高信道利用率的多会话传输机制。结合深空上下行信道非对称特点以及提出的多会话传输机制,设计了LTP多会话数据聚合方法,基于对多会话数据聚合过程建模以及对制约数据聚合因素的数值仿真,给出了聚合数目的下界以及数据聚合的原则。通过仿真EORP(End of Red-Part)丢失对接收报告产生时间的影响,明晰了数据段丢失对接收报告的延迟作用机理。