随着移动智能终端的迅速发展和普及，用户对移动多媒体业务的需求迅速增长。为满足众多移动用户对多媒体业务的需求，多媒体广播/多播业务(MBMS)最先由第三代合作伙伴计划组织(3GPP)引入通用移动通信系统(UMTS)中。第四代移动通信系统LTE对MBMS进一步升级，提出增强型MBMS(e-MBMS)，并且支持单小区MBMS和多小区MBMS（即，MBSFN）两种传输模式。传统的广播/多播系统为保证所有用户的通信质量，根据用户中的最差信道状况选择发送速率，这导致系统容量被较差信道状况的用户所限制。如何解决传统多播系统中的容量受限问题，提供高效可靠的多媒体广播/多播服务，是学术界研究的热点同时也是工业界需要解决的实际问题。本文针对e-MBMS中的两种传播模式，对旨在解决传统多播系统中容量受限问题的新型多播技术进行了研究，并着重研究了新型多播系统中的资源分配问题。　　 本文首先针对单小区MBMS传输模式，研究了采用分层视频编码的协作多播系统中的资源分配问题。我们在确保用户对基本层数据速率及中断概率要求的前提下，以最大化增强层和速率为目标，对基站和中继的发送功率以及基本层和增强层的数据速率等系统参数进行联合优化配置。本文考虑了基站端全反馈信道状态信息(CSI)和无反馈的两种场景，提出了两种数据速率和发送功率的联合分配算法。仿真结果表明，本文所提算法有很好的实时性，并可显著提高多播系统的吞吐量。　　 本文接下来针对MBSFN传输模式，研究了采用HARQ的MBSFN系统中的速率和功率分配问题。本文针对传统MBSFN系统中存在的容量受限问题提出将chase合并型混合自动重传请求(HARQ-CC)技术引入MBSFN系统。首先对采用HARQ-CC的MBSFN系统的吞吐量进行了分析，并通过高斯近似给出了系统吞吐量的闭式表达式。然后以最大化系统吞吐量为目标，结合系统总功率受限和用户中断概率限制等约束条件形成优化问题。最后提出了一种基于遗传算法的速率和功率联合分配算法。仿真结果表明本文所提算法有很好的收敛性，并可显著提高MBSFN系统性能。