多天线技术的发展趋势是基站上会安装越来越多的天线,形成大规模MIMO系统。相关研究表明,使用相对过量的天线能够为系统带来更高的谱效和能效,可以应对未来通信需求的爆炸式增长,因而引起了人们的广泛兴趣。然而,在目前频段和设备条件下,受到基站空间限制等因素的影响,具有空间紧凑的二维、三维阵列结构的全维度多输入多输出(Full Dimension Multi-Input-Multi-Output, FD-MIMO)系统更具现实意义。本文主要在3D信道建模、预编码和干扰管理这三个关键技术环节对其进行了系统地研究。由于FD-MIMO系统依赖于3D信道模型,只有建立了贴近实际环境的信道模型,后续研究仿真才有意义。因此本文首先根据3GPP的3D信道标准仿真实现了3D信道,然后基于空间相关性,分别研究了FD-MIMO系统中预编码方案和干扰管理问题。紧凑的天线结构和垂直维的低功率角度扩展使得FD-MIMO系统基站天线间的空间相关性大大提升,因此预编码可以充分挖掘准静态的空间相关性来减少发端对实时信道状态信息(Channel State Information, CSI)的依赖。本文提出了一种新颖的预编码方法,它同时利用空间相关性和部分CSI。本文不仅在理论上给予证明,而且通过蒙特卡洛仿真验证了提出方案能够有效平衡系统性能和开销。在干扰管理研究中,本文基于FD-MIMO系统在垂直维的自由度,研究了在空域进行干扰协调的垂直维波束赋形方案。首先,根据网络的拓扑结构,分析了垂直维空间的特征；然后,在小区分裂场景中,通过系统级仿真对比分析了垂直维波束赋形的不同配置情景的性能。仿真结果表明,垂直维波束赋形能够降低干扰,但是扁平化的网络拓扑结构会限制其性能。