随着移动通信技术的快速增加,业务类型越来越丰富,除了传统的语音和数据业务,手机购物、打车、购票、订餐等各种新兴移动业务正快速兴起,使得传统的蜂窝网络面临着巨大的挑战,如网络拥塞严重。另外,大量敏感的数据暴露在无线信道上传输,极大地限制移动通信的发展。由此,通过组通信来和允许终端之间进行通信的D2D(Device-to-Device)技术应运而生。D2D通信在减轻蜂窝网络负担、扩大通信范围以及传输速率等方面具有巨大优势。如何对用户的通信内容进行保护,防止个人隐私信息泄露,抵御非法用户攻击,保障用户的合法权益,是组通信的重要研究内容之一。因此,本课题针对网络拥塞问题和通信过程中的存在的安全隐患,结合4G MTC(Machine Type Communication)设备和D2D通信中设备的特点,以加密技术为基础,按照用户的需求和组通信特点,提出了有效的安全认证和密钥协商方案。研究内容如下:(1)对比分析4G组通信中几种组认证和密钥协商的特点,首先,总结群组通信相比传统通信在大规模MTC设备访问核心网络时存在的优劣势。然后,简要介绍了本文所用的密码理论,数学理论以及无证书认证体制,接着,阐述了D2D通信的特点,安全威胁和安全需求,为后文的理论研究奠定基础。(2)研究基于多群组和设备侧密钥分发的安全认证和密钥协商。现有的4G组认证存在处理的设备有限,安全性不足等局限性。针对此问题,本文研究了多群组的设备侧认证和密钥协商策略,结合聚合签名技术,实现认证信息的聚合,数据的认证性和完整性。此外,本文还考虑了4G通信中系统存在的蓄意、攻击节点的破坏行为。理论分析和仿真结果表明,该方案可以有效地减少带宽的消耗,减轻核心网的网络拥塞,提升4G链路建立的安全性。(3)研究D2D通信中基于ECC的无证书的安全组认证。现有的安全组通信研究未充分考虑大量D2D用户设备组通信,用户设备的处理能力等问题,针对此问题,该方案基于D2D的安全组通信,采用无证书认证和椭圆曲线加密两种技术。为了避免D2D用户的动态加入和离开,D2D组需要执行密钥的更新。该方案在密钥更新方面,相对已有的方案复杂度较低,有效地抵抗常见的攻击,如前向攻击,后向攻击,可以充分地保证系统的安全性。本文研究工作在解决网络日益拥塞的瓶颈问题以及确保安全认证和密钥协商方面具有十分重要的理论意义和使用价值。