移动电话在过去的十年中经历了十分快速的发展,它们从仅具有微小的屏幕和极弱的处理能力发展到如今具有高分辨率,手掌大小的屏幕以及与笔记本电脑相当的处理能力。同时,诸如网络银行、网络学习、网络医疗等新兴的在线业务也在逐渐崛起。这些改变以及缓存的运用不断扩大引发了对数据速率以及系统容量更高的需求。根据预测,移动数据流量在2010到2020年之间将会有1000倍以上的增长。在这样的背景下,目前部署的4G网络恐将难以支持如此海量的数据,我们自然地想到了发展下一代移动通信系统——5G网络。5G是面向2020年以后移动通信发展的新一代移动通信系统,其目标是更高效、更快速,并且能够支持更多用户、更多终端设备、更多服务以及更多的新兴应用场景。通过部署大量低成本、低功率的无线接入节点,使网络节点之间的距离降低到10米以下甚至更小,密度达到甚至超过用户节点密度,形成超密集网络（Ultra–dense Networks,UDN）,从而获得频谱资源的空间复用率和单位面积传输能力的显著提升,是实现上述目标的关键技术之一。然而随着密集化部署网络,超密集网络也将面临一些技术上的挑战,比如回传链路与接入链路之间的耦合关系,无线回传资源的分配,为每个用户分配合理的接入点等问题。鉴于此,本文创新性地提出了开展基于波束成形技术的超密集网络无线回传技术研究,重点突破接入链路的用户接入点选择和回传链路的无线资源分配的联合优化难题,通过数学上的近似和等价转化的方法将原先非凸的问题转换成一个标准的凸优化问题并对其进行求解。另一方面,无线技术革命已经导致我们对有限的无线频谱资源有着不断增长的需求,促使我们去寻找一个拥有更高频谱利用率的系统。在多种增加频谱利用率的方法中,带内全双工技术（in-band full-duplex,IBFD）近来获得了较多的关注。其背后的主要思想是,如果让无线终端在相同的频段上同时发射和接收信号将有潜力使得频谱利用率翻倍。尽管带内全双工技术有着十足的潜力,在其广泛部署之前,仍有一些重大的挑战亟需解决。而在这其中,影响最大的就是自干扰问题。鉴于此,本文研究了带内全双工中继网络中的联合波束成形设计问题。我们在中继节点采用一种分布式波束成形技术,从而抑制中继节点的自干扰以及互干扰。同样地,我们将原先非平凡的优化问题转换为一个凸的形式,随后通过所设计的迭代算法对其进行求解。