随着5G技术迅速发展,相比于4G技术,它要求更广的信号覆盖、更快的传输速度、更大的流量密度、更短的传输时延,对未来移动通信技术带来新的挑战。而D2D(Device-to-Device)通信是一种近距离的设备终端到设备终端直连通信,它受基站控制但传输数据不需要经过基站。因而它具有复用资源提升频谱利用率,直通通信降低传输时延,中继通信扩展通信范围的优势,成为5G的关键技术之一,受到学者的广泛研究。目前D2D通信的研究存在的问题主要有:(1)研究场景单一,大多研究D2D单跳通信;(2)对中继节点的选择时,认为中继节点是自愿加入中继通信,没有考虑中继节点的意愿性和稳定性问题;(3)对于陌生的节点直接忽略,没有激励它参与中继通信。本文针对这些问题进行如下研究:首先,本文对D2D通信的研究现状进行分析,D2D用户在中继通信中存在节点间的信任问题以及中继选择过程中节点的意愿问题,接着对D2D协作通信应用场景和引入D2D通信对系统带来的干扰问题进行分析。其次,本文结合社交关系提出了基于移动社交网络的D2D中继选择算法,对于社交关系比较强的空闲节点,愿意协作源节点通信,解决中继节点的意愿性问题。根据移动位置属性进一步判定空闲节点是否稳定,利用社交关系和移动位置属性解决D2D中继选择时空闲节点的意愿和稳定性,提升系统吞吐量。接着,对于社交关系较弱或者没有社交关系的节点,考虑到自身信息的安全和设备能耗等因素,不愿意作为中继节点参与D2D协作通信。针对这个问题,本文提出了基于价格激励的D2D中继协作通信,通过D2D用户间的博弈,得到最优补偿价格,在该补偿价格下每个D2D用户都能获得更多的效益同时也保证用户间的公平性。最后,本文研究D2D中继通信中复用蜂窝资源产生干扰的问题,通过中继选择获得更好的中继节点参与协作通信,结合对用户分组资源分配和功率控制进行干扰协调研究,能够有效降低用户间的干扰。