随着日益增长的数据流量和业务需求,无线通信网络逐渐向异构化和密集化的结构转变。异构网络(HetNets,Heterogeneous Networks)作为一种新型的网络架构,通过灵活配置小基站等多样化的接入节点,可以显著提升网络的整体性能。与此同时,异构网络设计面临着诸多挑战。由于网络中不同层次基站的发射功率及其拥有的频谱资源存在差异,合理分配网络资源,实现系统性能最优化是异构网络中的重要研究方向。一方面,采用传统的用户接入方法会使得宏基站负载过重,因此需要研究更合理的用户接入策略,实现负载平衡。另一方面,基站的发射功率控制也会对用户接入产生直接影响,合理设置基站功率可以降低不同层次基站间的干扰,对提升系统频谱效率和能量效率(EE,Energy Efficiency)有重要意义。另外,异构网络的密集化和复杂化加剧了网络拓扑的随机性和动态性,从而要求设计更为高效的鲁棒性资源分配算法。本文主要针对异构网络中用户接入和资源分配算法进行研究。首先,针对异构网络中基于能效效用函数的用户接入和功率控制算法展开了研究。本论文综合考虑能量效率和用户公平性,并引入对数效用函数模型,联合优化了异构网络中的用户接入矩阵与基站发射功率,实现了网络效用的最大化。该问题是一个复杂的非凸问题。首先利用分式规划将其转化为等价的参数相减形式的问题,然后采用交替优化方法将问题分解为两个子问题。针对得到的用户接入和功率控制两个子问题,通过拉格朗日对偶分析方法推导出子问题的最优解。最后论文从理论上证明了该算法的收敛性和最优性,并通过数值仿真验证了提出的用户接入与功率控制算法的性能。仿真结果表明该算法可以在保证用户公平性的同时提升网络能效,平衡基站负载。然后,论文针对超密集异构网络研究了鲁棒性用户接入方法,从概率学习的思想出发,通过最小化交叉熵(CE,Cross Entropy)和统计采样理论得到概率意义上近似最优的用户接入学习算法。依据机器学习的思想,将用户接入变量建模为一个离散随机变量,然后以最小化交叉熵为目标,得到原问题的概率优化问题。为了避免在整个概率空间进行搜索,假设用户变量服从伯努利分布,通过统计采样方法得到了最优概率分布参数,从而由获得的变量最优概率分布产生用户接入矩阵。仿真结果表明,提出的基于概率学习的用户接入算法以较低的复杂度实现了近似最优的接入性能,算法收敛速度快。相比于传统算法,论文提出的接入方法具有一定的鲁棒性和通用性。论文最后仿真研究了异构网络中的新型多址接入技术,考虑功率域复用的非正交多址接入(NOMA,Non-Orthogonal Multiple Access)系统,通过搭建异构网络系统级仿真平台验证了NOMA的系统级性能。论文详细阐述了NOMA的系统模型和关键技术,包括用户分组、功率控制、串行干扰抵消等。然后重点介绍了系统级仿真平台的搭建方法以及各子模块的具体设计。最后,给出了本异构网络仿真平台的仿真图例。论文针对不同场景对不同接入方式进行了仿真比较,结果验证了NOMA技术的性能优势。