大规模天线阵列和3D波束赋形是第五代移动通信的关键技术,可以有效的增加频谱效率和能源效率并减少小区间干扰。3D波束赋形技术能够充分利用3D信道中垂直维度的信道信息,实现小区垂直分裂、波束转换等技术,进一步提高无线通信系统的整体传输效率和性能。本文在传统波束赋形算法基础上,主要针对大规模天线阵列中的3D波束赋形技术,建立了 3D Massive MIMO系统,同时提出了改进的波束下倾角设计方案和双波束功率控制联合优化方案,并进行了仿真验证。本文的主要内容和创新点如下:1、针对Massive MIMO系统特性,本文研究了两种重要的线性波束赋形算法:迫零波束赋形技术和共轭波束赋形技术。在获得部分信道信息状态下,分析了两种波束赋形技术的性能,并根据随机矩阵理论,对两种波束赋形算法下系统的吞吐量进行了近似性分析。仿真结果表明,在大规模天线阵列下,本文使用的吞吐量近似表达式与理论值相差很小,符合预期。2、本文提出了一种改进的下倾角设计方案,可以有效提高系统的吞吐量。通过对各小区进行动态垂直分层,并针对划分区域分配合理的波束下倾角,尽可能的提高了系统吞吐量。同时,本文针对小区边缘用户干扰较大的问题,提出了一种改进的有限协作的波束赋形方法。最后,通过仿真证明了提出算法的有效性。3、本文建立了二小区等分裂3D波束赋形系统,提出了一种基于功率控制的波束联合优化方案,该方案使Massive MIMO小区分裂场景中系统容量最大化并尽量减少了不同波束之间的干扰。通过应用粒子群算法,减少了传统循环迭代算法的复杂度,能够找出合理的功率、垂直下倾角取值。仿真结果表明,该算法可以有效的减少同基站不同波束之间的干扰,提高系统吞吐量。