超密集网络是第五代移动通信系统(fifth-generation,5G)为了满足更高的流量需求、更多的终端接入而产生的一种新型组网方式。超密集组网就是通过小基站部署的致密化,从而获得频谱的大量复用,在人流密集或公共集会等热点地区实现整个系统容量的百倍级提升。但是随之而来的便是干扰的增强。由于小基站间的距离进一步缩小,单个基站或单个用户所受干扰源的增多,以及小站分布的随机性、小站部署与否的不确定性等条件影响,使得超密集网络下的干扰与传统通信系统干扰有很大区别。因此,超密集网络下的干扰协调变得尤为重要。本文主要研究超密集网络下基站间干扰协调问题。首先,针对超密集网络中微-微场景,提出了一种以用户为中心的基站半分簇干扰协调算法。该算法考虑基站下用户的所受干扰状态,并以此为据将每个基站分类。再根据基站的分类情况对基站分簇,使得相互干扰较强的基站划分为一簇,在簇内根据用业务的Qo S(Quality of Service)等级不同,利用着色图法,保证优先级较低用户的最低速率基础上,尽量满足高优先级用户需求,为其分配更多资源块。仿真结果表明,该算法与LTE(Long Term Evolution)中的增强型干扰协调等算法相比,在系统速率提升的基础上注重不同用户的不同需求,提高了整体系统用户满意度。其次,对超密集网络中宏-微场景下的干扰协调进行研究,提出了一种基于联盟博弈的多用户接入干扰协调算法。该算法针对大量用户随机接入从而造成强烈干扰的问题,将小基站按照用户接入可能进行簇化处理,联合宏基站,将每个基站看作是一个联盟,将用户选择基站接入视为博弈的过程。通过为每一个用户选择最佳的基站接入,从而降低其所受干扰的影响,提升信干噪比。该算法合理分配系统资源,达到减小系统干扰,提升系统性能的目的。仿真结果表明随着算法的迭代次数不断增加,系统内的干扰随之减少,系统效率也随之升高。且随着小基站以及用户数量的增加,系统需要经过更多次博弈才能达到稳定状态。最后,基于本文所做研究,设计了一种实际应用于超密集网络场景中的干扰协调协议,通过软件定义网络(Software Defined Networking,SDN)控制器来完成系统内的干扰协调。协议主要分为控制模块、参数获取模块、干扰协调模块三部分。在实验室里实际搭建的超密集网络场景中,测试了协议中的基站干扰配置修改以及用户的重定向功能。实验结果表明,所设计的干扰协调协议能够有效减少系统内的干扰,实现容量的提升。