异构蜂窝网络中由于多基站的同频部署,将会存在同层干扰和跨层干扰,严重影响了通信网络的性能,因此有效的干扰管理手段成为了研究热点。传统干扰管理方案将干扰视为不利因素,通过资源的协调、规划达到抑制或消除干扰的目的,在减小干扰的同时也降低了资源的利用率。多点协作技术(Coordinated Multi-Point Transmission,CoMP)是一种有效的干扰管理机制,能将干扰转换为用户期望的信号,从而更好地提升网络性能。在传统宏小区下,用户数量的增加以及低功率节点的大量部署会使得网络进一步密集化和随机化,CoMP的联合处理和传输模式在降低干扰的同时也产生了一定的开销。本文针对未来蜂窝网络密集化、随机化部署的特点,提出了两种基于CoMP的能谱效优化方案,不仅可以有效提高异构网络的能谱效,还可以根据得到的闭式解为网络部署和传输设计高效的解决方案。另外,为了降低CoMP的开销,本文还提出了一种基于宏基站权值的基站重组算法,进一步提高了同层CoMP方案下异构网络的性能。论文主要工作如下:1.针对由宏蜂窝-Pico蜂窝组成的两层蜂窝网络,提出了一种基于同层CoMP的能谱效优化方案。首先宏层和Pico层采用异频部署以消除跨层干扰,然后引入一个协作门限来表征网络中的Pico基站之间的协作程度,并根据该协作门限确定用户的传输模式,最后通过对用户的功耗建模得到了网络能谱效关于协作门限、基站密度、移动流量强度以及用户平均速率的闭式解。仿真结果验证了所得能谱效闭式解的准确性,刻画了不同网络参数对系统能谱效的影响,使得我们能够快速地为随机部署的同层CoMP异构蜂窝网络设计最佳解决方案。2.同层CoMP需要多个基站联合处理信号,在降低干扰的同时也会产生一定的开销。为了降低网络中大规模CoMP的功耗,提出了一种提高同层CoMP能谱效的基站重组算法。根据网络中的流量拓扑,为Pico基站重新选择要接入的宏基站,目的是使尽可能多的宏基站间协作业务转换为宏基站内协作业务,进而降低宏基站间协作处理信号的功耗。仿真结果表明,所提算法能够有效降低协作的开销,进一步提高了网络的能谱效。3.为了进一步提高频谱资源的复用率,提出了一种基于跨层CoMP的能谱效优化方案。宏层和Pico层采用同频组网,引入两个协作门限来表征网络中宏基站和Pico基站的协作程度,根据协作门限确定用户的传输模式,最后推导出网络能谱效关于协作门限、基站密度、移动流量强度以及用户平均速率的闭式解。仿真结果验证了该协作方案下闭式解的准确性。与不采用CoMP方案相比,所提跨层CoMP方案可以大大提高网络的能谱效。所得闭式解能够为随机部署的跨层CoMP异构蜂窝网络快速地设计最佳解决方案。