终端直通技术(D2D,Device-to-Device)是指相距较近的移动终端间采用授权频带进行直接通信,而无需通过基站转发。研究表明,在蜂窝网络中引入D2D技术能够显著提升系统容量、提高系统频谱效率。由于D2D通信是一种短距离、低功率的直连通信技术,考虑引入中继来延伸D2D通信距离、提升D2D通信质量。针对共享蜂窝频谱资源的D2D通信的中继选择问题,本文提出一种基于中继链路信道容量最大的D2D中继选择与资源分配联合算法。该算法在选择中继节点的同时,考虑两跳的D2D中继链路资源复用情况,依据最大信道容量准则,同时解决中继选择和资源分配问题。仿真结果表明,所提算法能够完全保证共享频谱资源的蜂窝用户的QoS需求,显著提升D2D中继链路的吞吐量、有效提高系统频谱效率。为了提升D2D中继链路的吞吐量,本文提出一种联合物理层AMC技术和数据链路层HARQ机制的跨层设计方案。首先,推导出D2D接收SINR的概率密度函数;然后,在物理层应用AMC策略缓解时变的无线信道对传输数据的影响,在数据链路层加入ARQ技术进行数据包的重传来减轻物理层控制误码率的负担。仿真结果表明,该跨层优化方法可显著提升D2D通信的频谱效率,增加D2D中继链路的吞吐量。为了进一步增强D2D链路的自适应性、提升D2D通信的频谱利用率,本文联合数据链路层的自适应包长度策略与物理层的自适应调制策略,提出一种链路自适应优化方案。该方案将数据链路层的数据包长度与物理层的信道状态和调制模式一一对应,以系统频谱效率为目标函数来划分SINR区间、搜索各传输模式的最优数据包长度。仿真结果验证所提方案可以在一定程度上提升系统的频谱效率。