随着Internet服务的迅速发展和流媒体技术的广泛普及,越来越多的应用服务对组通信模式提出了迫切的需求。组通信模式一般可以由单播通信、IP组播通信或应用层组播等数据播发方式实现,但是由于单播通信和IP组播在各自技术上都存在着不可忽视的缺陷,因此应用层组播技术逐渐成为了组通信应用最主要的数据传输手段,并受到了研究领域的重点关注。下一代互联网为用户提供了多样化的网络接入条件,同时凸显出了终端性能异构性差异大、用户动态性强的新特点,尽管应用层组播是解决下一代互联网大规模流媒体播发最有效和最具优势的技术手段,但同时也面临了诸多全新的技术挑战。应用层组播技术是一种在覆盖网络上实现组播功能的特殊数据播发方式,其数据复制和转发等功能由终端主机来完成,这意味着终端用户的动态性会对组播的数据播发性能造成直接影响。以树型拓扑结构为例,任何中继节点的退出或失效都会导致其后继节点的数据传输连接中断,无法保证流媒体数据报文的连续性和实时性。这一问题被称为应用层组播的稳定性问题。在流媒体直播等实时应用场景中,稳定性问题关系到媒体播发的整体性能和服务质量,以及用户接收媒体信息时的体验质量。因此,提高应用层组播的稳定性是在下一代互联网环境中部署大规模流媒体应用的重要保障,本文重点关注提高应用层组播稳定性的相关技术方案。针对已有研究工作存在的不足,本文对提高应用层组播稳定性的技术展开了深入研究,主要包括以下四个方面：(1)分析并开创性地提出了应用层组播树型结构中跨层参数的映射方法和关联模型。本文在总结分析已有的流媒体系统评估参数的基础上,根据流媒体直播场景的组织架构方式,将多种评估度量指标进行了网络层、应用层和P2P层的层次划分,并依据该层次划分结构确立了带有跨层参数映射关联的度量矩阵,以此实现不同层面评估指标对应用层组播性能的协同控制。通过在校园网内搭建试验床环境和部署实际应用,借助多种测量和数据采集方法,描述了多组影响应用层组播性能的跨层参数关联关系模型,为后文节点选择策略的制定提供了指导方向。(2)为了减小节点退出组播应用的影响范围,根据跨层参数映射关系的相关结论,提出了基于拓扑信息和多属性决策的节点选择策略TIMAD-PSM,并将该问题划分为P2P层面节点优先级和网络层而节点优先级两个子问题,建立了基于熵值赋权法的多属性决策模型和基于线性加权的整合优先级度量指标,提出并实现了集中式节点选择算法C-PSA。为了更好地对以上应用层组播的节点选择策略进行评估,本文提出了一种基于参考感知的QoE客观评估机制,来验证基于跨层多参数的节点选择策略对流媒体应用服务质量和数据播发稳定性的优化效果。(3)针对组播树的修复和重构技术,提出了一种面向全局优化的响应式拓扑重构算法。本文首先根据拓扑重构场景的需求,将该问题归结为节点度和重构深度双约束条件下的重构节点数量最大化问题。进而给出了求解该问题的类Prim思想的GO-R2A算法,该算法在可接受的范围内以牺牲部分时间性能为代价,提高了应用层组播的修复容量和整体平衡性。同时利用仿真验证的方法对重构响应时间、组播重构树深度以及节点重构成功率等反映重构算法性能及开销的度量标准做了相应的评估。仿真结果表明,GO-R2A算法符合预期的算法设计思想,能够实现应用层组播拓扑重构的整体性能提升,改善应用层组播稳定性。(4)设计并初步实现了下一代互联网大规模应用播发的体系结构。本文通过分析基于代理方式提高应用层组播稳定性方案的可行性,综合了CDN和P2P技术的多样化灵活的播发机制,提出了适应于下一代互联网异构接入环境,支持大规模数据播发应用的分层分簇体系结构。同时,本文通过对体系结构中各功能模块的详细定义和播发流程的分析,改进了试验床环境中部署的PeerCast原型系统,从工程角度初步证实了该体系结构的可部署性和实践意义。