由于移动终端数量的迅速增加,给现有的蜂窝网络通信带来了巨大的挑战。因此,在蜂窝网络中,可以通过使用设备到设备(Device-To-Device,D2D)辅助中继技术来改善和提高蜂窝小区系统容量和覆盖范围,同时为增大D2D通信的覆盖范围,也可在D2D通信中引入中继技术。由于传统蜂窝通信与D2D中继通信共存下的同频干扰问题,因此设计合理且有效的中继选择与资源优化方案来降低D2D用户与蜂窝用户之间的相互干扰是十分必要的。本文研究了两种基于不同场景和优化目标的D2D通信中继选择方案,主要内容如下:首先,本文研究了以提升边缘用户信道速率和降低蜂窝链路和D2D链路之间同频干扰为目标的D2D中继选择问题。由于蜂窝边缘用户受信道衰落的影响,用户服务质量(Quality of Service,QoS)较差。为了保证边缘用户的信道质量,可以D2D辅助中继技术帮助边缘用户与基站进行通信,但是D2D链路复用蜂窝资源会与蜂窝链路之间产生同频干扰。针对同频干扰问题,研究了以最大化边缘用户和蜂窝用户信道速率为目的的中继选择方案。该算法首先对每个候选的中继节点进行资源预分配,然后结合资源分配结果,以最大化边缘用户和蜂窝用户信道速率为目的进行中继选择,该方案不仅考虑D2D链路和中继回程链路的信道质量,同时考虑到对蜂窝链路的同信道干扰问题。通过仿真验证,本文算法不仅能有效提升边缘用户链路可达速率,同时保证了蜂窝用户的QoS。其次,本文研究了一种以最大化D2D链路能效为目标的D2D中继选择方案。该方案针对传统蜂窝通信与D2D中继通信共存下的同频干扰问题,在保证蜂窝用户容量要求的情况下,考虑了D2D中继用户的能效问题,研究了一种基于能效的联合资源分配和功率控制的D2D中继选择算法。算法首先采用等效链路的思想进行资源预分配,减少预资源分配次数,然后进行功率控制,保证蜂窝链路受到的干扰最小。最后,以能效值为权值将D2D链路与中继节点进行最优匹配。通过仿真验证,本文算法有效提升D2D中继链路的能效值,同时保证了整个系统的频谱效率。