为了支持第五代移动通信中大规模机器类型通信、高可靠和低时延通信、增强移动宽带等典型场景的不同业务需求,5G的新网络架构中采用网络功能虚拟化技术对网络服务进行管理和编排。AMF是新5G网络架构中支持移动性管理的关键网络功能组件,可以灵活地部署在异构无线接入网的边缘。通过在通用虚拟机上部署和编排AMF,并根据移动性管理需求和用户的移动性,对AMF的放置及其实例数目的自动伸缩优化,可以提高基于NFV的虚拟移动性管理的性能。本文针对异构无线接入网中的移动性管理优化进行研究,所做的研究工作和主要创新点包括:(1)考虑了用户移动性和用户移动性管理请求的到达率等时变特性,将AMF的放置问题建模为一个以AMF排队系统中的平均等待时间、转发移动性请求的平均跳数和AMF实例成本的加权之和最小为优化目标的优化问题。为了解决AMF优化放置中大状态空间和大动作空间的问题,提出了一种基于DRL的AMF-OP-DRL算法,给出了该算法在不同超参数下的收敛性能,仿真评估了所提算法在不同系统参数下的优化性能,验证了所提算法AMF-OP-DRL的性能;(2)针对AMF服务器的实例放置和AMF实例数目的自动伸缩优化问题进行了研究,提出并仿真评估了一种基于QMIX算法的AMF实例放置和数目自动伸缩优化算法。通过对每个智能体的动作值函数进行整合,并在训练的过程中加入全局的状态信息,所提算法与基准算法AMF-OPA-VDN和AMF-OPA-COMA相比,具有较显著的性能提升。