无线技术迅速发展使移动设备数量呈爆炸式增长,为减轻基站负担和提高资源利用率,提出了设备到设备通信(Device-to-Device Communication,D2D通信)。但是直接D2D通信更适用于近距离、慢速的设备,所以引入中继用户扩大通信覆盖范围,解决直接D2D通信弊端。但同时也会产生干扰和增加转发次数,因此考虑与网络编码技术相结合抑制干扰和提高传输效率。在网络编码辅助D2D通信系统中,中继用户的选择至关重要。本文紧密结合网络中应用场景的实际情况,构建了三种不同拓扑结构的网络编码辅助D2D通信系统模型,然后提出相应的中继选择方案,仿真结果表明通过网络编码和所提的中继选择方案可以提高系统的性能。本文的主要研究内容如下:第一,建立网络编码辅助D2D单中继通信系统模型,介绍通信会话建立和具体每一时隙的通信过程。提出了联合考虑端到端速率、延时和中继存活时间的中继选择方案,并对有无网络编码和不同中继选择方案对系统端到端传输数据量和延时的影响进行仿真分析。结果表明基于网络编码辅助通信的中继选择方案可以提高系统的端到端信息量和降低传输时延。第二,针对需要高可靠性的通信场景,构建网络编码辅助D2D多中继通信系统,对该模型会话建立和具体通信过程进行了详细的介绍,并对系统的丢包性能进行分析。在提高可靠性的同时为避免数据冗余和资源浪费,还需要尽量减少中继用户个数和传输次数,所以提出了联合考虑中继地理位置、信道质量、传输次数和存活时间的中继选择方案。仿真结果表明,该方案通过采用网络编码在提高系统吞吐量的同时也降低丢包率,增强可靠性。第三,针对需要多用户接入和空闲用户有限的情况,构建网络编码辅助多对D2D单中继通信系统。介绍了该模型会话建立和通信过程并对系统容量进行分析。为提高系统容量并保障可靠通信,提出了联合考虑中继地理位置、通信内容、存活时间和系统容量的中继选择方案。仿真结果表明该方案提高了系统容量和信道利用率。