本文对基于RSVP-TE和自动交换光网络的组播协议扩展进行研究，主要是信令模块的协议设计与实现。 三网融合是网络发展的一个新趋势，未来的网络将为用户提供包括语音、数字、甚至视频业务在内的统一通信平台。随之而来的是各种宽带业务的兴起，网络电视，视频会议等宽带应用不仅需要占用较大的带宽，而且需要传送网络具有组播能力和服务质量保证。IP组播虽然可以在网络主干上有效地使用带宽，但是由于IP本身“尽力服务”的特性及受到基于IGP的最短路径制约，并不适合在较大范围内提供具有严格QoS要求的宽带业务。相比之下，自动交换光网络（ASON）作为先进的路由、传输交换技术与光纤传输网（OTN）的融合产物，更适合提供各种新兴宽带组播业务：它在控制平面运用基于流量工程的MPLS/GMPLS 技术，不但具有资源优化能力，而且提供QoS保证。 然而，目前ASON控制平面的信令模块只支持点到点连接，组播功能的实现迫在眉睫。正是在这种需求下，本文研究基于RSVP-TE的组播信令扩展，提出了在现有信令架构上实现组播功能的五个关键问题，包括信令模型、会话标识、组播树编码、组播树分解和Resv消息合并，并就其中的基本技术进行讨论。在此基础上，本文还对现有四个组播信令模型做了介绍，重点分析和比较这四个信令模型针对上述五个关键问题所采取的解决方案。 可扩展性和兼容性是衡量组播信令协议的重要指标，最后，本文通过数学分析和仿真试验详细比较了四个组播信令模型的开销和性能，进而分析采用不同技术对组播信令协议性能的影响。数值计算和仿真结果证明，P2MP信令模型的可扩展性远远优于P2P信令模型，通路编码比节点编码效率更高，组播树分解能使组播信令协议具有更好的兼容性。 本文的理论分析和仿真结果对自动交换光网络的组播协议扩展提供了一些重要的参考依据。