第五代移动通信系统(the 5th Generation mobile communication technology,5G)通过部署更密集的异构无线网络节点提升系统容量。然而,超密网络也存在诸多技术挑战。首先,超密网络下用户被异构基站多重覆盖,难以确定最优用户连接策略。其次,用户和业务的非均匀分布会引起异构基站之间的负载不均衡。通过设计用户连接(或网络选择)策略,用户可改善吞吐量,提升体验,平衡网络负载。为充分发挥超密网络增益和应对挑战,论文研究超密同构网络用户多连接技术和超密异构网络智能用户连接技术。一方面,超密网络中用户能够接收来自多基站的强信号,因此可通过建立多连接来提升传输速率;同时,用户可通过调整业务分配来实现负载均衡。当前多连接策略大多是中心式的,存在开销过高和缺乏对业务波动感知能力等问题。论文提出分布式多连接策略,将用户多连接问题建模为基于状态的势博弈(State-based Potential Game,SPG)模型。通过SPG构建状态空间,用户可感知基站负载状态。论文证明了所设计算法可实现用户连接策略全局最优,同时基于SPG建模设计了流量感知的TAMA(Traffic Aware Multiple Association,TAMA)算法。通过离散仿真,论文验证了算法时延性能、功耗性能等,分析了多连接技术的功耗情况。仿真结果显示在高负载情况下TAMA算法能够显著提升用户时延性能。另一方面,超密网络中用户连接问题复杂,频繁重选、切换问题更加严重。传统连接算法依据空口参数,如参考信号接收功率等选择接入的基站;然而,空口参数波动严重使得传统算法面临频繁切换等问题。论文研究基于人工智能技术的用户连接算法解决上述问题。然而,人工智能相关技术与通信网络的结合仍存在如下挑战:第一,如何解决通信实时性与学习耗时性之间的矛盾;第二,如何解决由于异构网络引起的黑盒模型难收敛问题。为此,论文提出模型驱动的线上线下相结合学习框架,框架包括线下特征学习与线上策略学习。特征学习通过空口参数分析链路质量,策略学习基于负载状态和链路质量进行智能决策,根据博弈论指导进行优化。进一步,论文仿真了分布式智能用户连接算法,实现了兼顾负载和吞吐量的连接策略,解决了异构网络的频繁重选问题。仿真结果表明所提学习框架可改善算法收敛速度和用户体验。