近年来,5G已成为人们研究的重点课题,D2D通信技术是5G中的一项关键技术,但D2D通信复用蜂窝无线资源的同时也引起了干扰。干扰对齐技术正是用来管理和抑制无线通信中的干扰问题,而D2D通信的通信距离短、信道状态稳定、终端位置相对固定,并且在TDD系统中其信道具有互易性,这些特性给干扰对齐提供了良好的应用基础。因此本文主要研究了干扰对齐在D2D通信系统中的应用,以此增加系统容量,提高资源利用率。论文研究了干扰对齐在单天线D2D通信系统中的应用,对无中继单天线D2D通信系统的干扰对齐方案进行了研究,仿真并分析了其自由度的上限。在此基础上,文章结合中继构成虚拟MIMO,将分布式干扰对齐算法应用于中继辅助下的D2D通信系统中,并从放大因子和矩阵空间两个角度对算法进行了优化。仿真表明,中继场景下的优化算法提升了算法效率、提高了系统容量。论文还研究了干扰对齐在多天线D2D通信系统中的应用,针对理想情况下以及考虑蜂窝用户干扰后的D2D通信模型,分析了干扰对齐的可行性,研究了分布式干扰对齐算法在模型中的应用,并分析了算法收敛性。仿真表明,算法提高了系统性能。论文还通过仿真分析了不同天线数、不同迭代次数对系统容量和算法复杂度的影响。论文最后研究了基于干扰对齐原则的D2D通信用户分组策略,将C均值模糊聚类算法以适合干扰对齐的方式运用于分簇和分组策略中。论文分别研究了基于终端位置的分簇方法以及基于信道状态和基于终端距离的分组方法。仿真给出了分簇和分组方法的划分结果并进行对比和分析,比较了各种方法的优劣,并表明分簇和分组策略均提升了系统性能。