随着大规模多输入多输出(MIMO)天线技术以及毫米波通信技术的使用,未来蜂窝网需要部署大量的微小蜂窝以保证移动用户的无缝覆盖,因此超密集蜂窝网成为必然的趋势。随着基站部署的密集化,传统的有线光纤回程方式已经不能满足移动网络对经济性和可扩展性的要求了,超密集蜂窝网的无线回程成为一个研究热点。本文研究了5G(5-th Generation)超密集蜂窝网的组网形态,并从无线回程容量限和能效的角度探讨了超密集蜂窝网密集部署的饱和点,研究表明蜂窝网络存在着与微小蜂窝部署密度无关的回程网络容量上限(该上限值与回程网络空时分配策略有关),因此可以说5G超密集蜂窝网是部署密度受限的通信系统。为提高无线回程链路容量,本文研究了毫米波回程网络。考虑到毫米波传输距离短的特性,本文研究了超密集蜂窝网的连通簇模型,并分析了其连通性。分析及仿真发现当微小蜂窝基站密度足够大时,一个宏基站覆盖范围下微小蜂窝网络的连通概率趋近于1。最后,本文建立和推导了毫米波回程网络的容量模型,与大多数已有的回程网络研究不同的是,本文考虑了回程网关部署对回程网络成本开销的影响,并在此基础上推导了毫米波回程网络成本效率模型。基于此成本效率模型,本文研究了毫米波回程网络的成本效率优化问题,从两个时间尺度对该优化问题进行分解,并对不同时间尺度上的优化问题分别提出了算法进行求解。仿真结果显示,通过本文提出的算法5.1&5.2对毫米波回程网络进行优化,能显著提高毫米波回程网络的成本效率。