随着宽带业务的大量使用,视频流媒体组播已经成为主要的网络应用之一。由于网络基础设施的限制和自身技术的局限性,网络层组播的大规模部署难以实现。为了解决这个问题,研究者提出了在应用层通过端到端系统建立组播覆盖网、网络层仍用单播方式来传递流媒体数据,为大规模组播应用开辟了新的途径。在已经提出的应用层组播模型中,高性能、健壮性、可扩展性一直是研究者关注的重点问题。一方面,从局部观点来看,端系统的可靠等级远逊于路由器之类的网络设备,端节点或链路失效给应用层组播的可靠性带来严重影响,常用的树状组播模型从结构上存在着单点故障的可能性。另一方面,从系统层面来看,由于端系统的异质性和动态性,导致节点的异常退出成为影响应用层组播稳定性的主要因素。从大规模应用角度来看,可靠性和稳定性对于电信级组播服务尤为重要。本文围绕应用层组播的可靠性和稳定性问题进行了组播覆盖网体系结构、聚类和约束条件、媒体编码和网络编码、主干层结构化和辅助层扩展机制等展开研究工作；构建应用层组播模拟器来验证所研发的组播模型和机制对稳定可靠组播的有效性；并对流行的基于CDN技术的IPTV系统进行了应用层组播扩充,设计了一个基于ALM和CDN技术混合的HMALM-IPTV系统,从扩展结构和编码机制等方面提高系统的整体性能和可靠性及稳定性。论文对当前主流应用层组播模型的可靠性和稳定性问题进行了分析,认为可靠性问题的影响因素包括模型结构、节点性能、链路失效、数据报文出错和丢失、编码机制等。稳定性问题的影响因素主要是节点失效及对节点失效采取的应对措施,包括网络优化等。论文对应用层组播结构化聚类和约束进行了形式化描述,在此基础上提出了正则结构化组播覆盖网及其辅助层扩展机制,通过动态聚类相似性能的节点来提高网络优化速度,层次结构特征使其具有较好的可扩展性和错误隔离能力,正则结构化节点群出入度均衡特性保证在节点加入退出时数据中断概率更低,对系统的扰动更小,具有良好的可靠性和稳定性。由结构化主干层和非结构化辅助层所构成的混合网状组播模型(HMALM)从体系架构上为应用层组播的可靠性和稳定性提供了基本保障。论文设计并实现了一个通用的事件驱动的应用层组播模拟器,通过对于应用层组播中流量、协议、链路、传输、节点等可靠性和稳定性的关键影响因素灵活配置,实现对多个组播协议的对比试验,通过一系列可靠性和稳定性试验证明,混合网状组播模型及相应机制具有较强的可靠性和稳定性。针对现有基于CDN技术的IPTV系统的可扩展性不足,论文设计了一个基于混合网状模型的HMALM-IPTV系统和相应的SVC空域可扩展随机线性编码方案,实现与CDN-IPTV系统的资源共享和用户扩展,充分利用SVC累积分层编码特点,实现基本层和多个增强层编码的并发传送和缓冲区管理。端节点根据网络情况,选择适合的报文接收和解码播放,从整体上提高了组播可靠性及稳定性。在对现网用户行为特征分析结论基础上,论文设计了一个端节点两阶段提交加入方案,端节点通过服务订购进行服务等级协商,并获取许可证；然后执行节点加入算法,将节点加入到组播系统中。该方案实现业务签约和运营管理,能消除部分搭便车者的副作用,具有更好的安全性和可扩展性。根据终端节点异质化特点设计优先级调度策略,增强用户加入/退出时组播系统稳定性。应用层组播可靠性和稳定性研究对于互联网电视(IPTV)等大规模应用的发展具有较大的理论意义和实用价值,本文从理论和实践都作了有益的尝试。提出的混合网状组播模型和节点两阶段提交加入方案试图通过组播覆盖网结构的可靠性和用户行为影响的稳定性来保证应用层组播系统的整体可靠性和稳定性,具有创新性。研发了一个模拟系统和扩展了一个实际系统,进一步验证了本文理论研究的实用价值。应用层组播可靠性和稳定性研究仍然是一个开放的课题,在本文研究成果基础上,进一步深入研究要特别关注的是用户在选择服务过程中的行为特征怎样严重影响应用层组播系统的模型结构和稳定可靠；应用层组播(特别是电信级应用层组播)的可靠性和稳定性怎样做到可管可控可维；如何采用稳定可靠可控的应用层组播技术对现有网络资源进行优化调整配置,增强网络设施与端主机系统的协同性,牵引组播流量,提高资源利用效率。