终端直通通信(Device to Device,D2D)技术是一种允许一定距离范围内的用户通信设备进行直接通信的新型技术,它能够在一定程度上减轻基站的负荷,并且能够提升频谱的利用率以及系统吞吐量等性能。但同时,D2D通信的应用会给蜂窝网络的用户带来干扰,这样的干扰会影响到整体通信系统的性能。所以如何降低D2D通信系统中的干扰,优化系统的性能一直是研究的热点。鉴于此,本文致力于研究终端直通通信系统的性能优化,通过功率控制和资源分配等手段降低系统中的干扰从而优化系统的性能。文章首先从D2D系统中的功率控制入手,以D2D用户的功率等级作为待优化的参数,以系统吞吐量和系统能效为优化的目标建立了 D2D系统性能优化的数学模型,引入强化学习和监督学习等机器学习算法来求解优化问题,提出了基于机器学习的D2D功率控制优化算法。其次,文章同时考虑功率控制和资源分配两种干扰控制的手段,提出了基于随机学习的D2D通信功率控制和资源分配联合优化算法,双管齐下进一步降低干扰提升系统性能。最后,文章受5G NR-U(New Radio-based access to unlicensed spectrum)技术的启发,考虑在D2D通信系统中合理高效地使用非授权频谱,这样在提升非授权频段利用率的同时,减轻了授权频段内部的干扰。最后,文章对本文提出的算法和方案进行了仿真,并且与其他的算法进行对比,结果表明,本文的算法和方案能有效提升D2D系统的性能,相较于其他的对比算法有着更好的表现。