作为第五代通信技术(fifth generation communication technology,5G)的关键技术之一,超密集网络已成为目前无线通信领域的研究热点。接入点部署密集化可以提高整体网络吞吐量,同时也不可避免地带来了一系列挑战,比如干扰问题。如果不能有效地解决超密集网络中的干扰,会导致网络性能严重下降,这也必将给用户带来极差的体验。如何有效地降低超密集网络中的干扰,是本论文的主要研究内容。目前干扰管理的技术有很多,比如干扰随机消除、干扰协调,多点协作技术等。在传统的蜂窝网络中,这些典型技术都能在一定程度上实现有效的干扰管理。然而超密集网络在网络拓扑、接入点部署、应用场景等方面,与传统网络都存在一定的差异。因此目前的干扰管理技术并不能直接应用于超密集网络中。本文从频率复用和功率控制的角度,引入Chameleon分簇模型和非合作博弈论模型,分别对超密集网络中的干扰问题进行建模,提出了一个基于Chameleon算法的频率复用机制和一个基于非合作博弈论的功率控制机制。本文主要工作具体如下:第一,提出了基于Chameleon分簇算法的频率复用机制。首先分析了超密集网络中影响干扰的主要因素。接着充分考虑到地理位置和区域吞吐量的影响,建立了基于区域流量预测的分簇模型,以系统吞吐量为优化目标。然后引入Chameleon算法对超密集网络中随机部署的接入点进行分簇操作。最后结合频率复用机制,根据需求动态地分配频率实现对小区间干扰的有效管理。仿真结果表明,所提机制可以有效地降低系统中的干扰,提升系统的吞吐量。第二,提出了基于非合作博弈论的功率控制技术机制。首先分析了功率控制在干扰管理应用中的特点,说明了其在超密集网络中的可行性。接着对超密集网络场景中的功率控制求解问题进行建模。所提模型以优化系统整体吞吐量为目标,同时保证用户的通信质量。基于博弈理论相关知识,提出了基于非合作博弈论的功率控制技术。仿真结果表明,所提算法具有较好的表现,接入点的功率在保证用户通信质量要求的基础上,尽量降低对其他接入点的干扰。