随着移动通信网络的发展,第五代移动通信(5G)系统的安全性接入逐渐成为热点研究方向。目前,演进分组系统(EPS)使用认证和密钥协商(AKA)协议对入网用户进行身份认证以增强网络接入安全性,然而现有的协议仍存在一些弊端,如不完善的身份管理机制会导致用户身份泄露、长期密钥泄露,移动网络运营商之间的不安全链路可能导致中间人攻击,此外,在用户附着过程中可能会发生拒绝服务(Do S)攻击。因此,改进EPS-AKA协议,并分析网络接入认证协议的安全性,对5G用户安全地接入移动通信网络具有重要意义。本文在EPS-AKA协议框架中嵌入公钥基础设施(PKI)、Diffie-Hellman集成加密方案(DHIES)以及哈希挑战\响应机制,提出了基于PKI的5G-DHAKA协议,并通过形式化验证以及模拟仿真实验对协议进行了安全性分析。首先,详尽地分析了EPS-AKA协议,并发现了潜在的安全漏洞;其次,针对其中的安全漏洞设计了包含可信第三方的密钥管理分配机制、用户和服务器的双向认证机制以及哈希挑战\响应机制的基于PKI的5G-DHAKA协议,该协议保证了用户节点和网络侧实体的机密性、认证性,并有效地缓解了Do S攻击;最后,通过形式化建模与验证实验、模拟仿真实验对协议进行了安全性分析,其中形式化验证实验结果表明参与协议交互过程的用户实体和网络侧实体满足安全协议的机密性与认证性,模拟仿真实验证实哈希挑战\响应机制可以有效缓解Do S攻击。本文通过形式化验证以及模拟仿真实验对基于PKI的5G-DHAKA协议进行了安全性分析,从多角度提高了5G用户接入移动通信网络的安全性。基于PKI的5G-DHAKA协议可以有效地提高协议实体的机密性与认证性,提高恶意节点的计算资源及缓解Do S攻击,为增强移动通信网络安全性提供了新的方案。