随着有源天线技术的发展,3D MIMO(3-Dimension Multiple-Input Multiple-Output)在传统MIMO的基础上增加了垂直维度,在三维空间为用户提供服务,对于提高系统容量,减少用户间干扰具有重要意义。3DMIMO系统仿真,需要支持二维天线阵列和三维信道模型,算法设计更加复杂,但对于评估系统性能有很高的参考价值。本文参照3GPP标准,搭建了3D MIMO系统级仿真平台,仿真研究了3D MIMO系统的性能并对其进行了优化。首先,本文基于3GPP中3D MIMO的仿真标准,引入三维信道模型,搭建了3D MIMO系统级仿真平台,并且对仿真平台的各个模块进行了详细介绍。此仿真平台是后续研究3D MIMO组网性能、共存性能、评估优化效果的重要工具。在3D MIMO系统组网方面,针对3D MIMO系统室内用户、室外视距用户、室外非视距用户等不同类型用户,评估了不同用户分布场景下,无线网络的吞吐量指标,并给出了性能分析。在3D MIMO共存组网方面,通过系统共存仿真,评估了3D MIMO系统和传统LTE系统共存场景下的ACLR指标,仿真结果显示3D MIMO系统和传统LTE系统能够友好共存。但是,小区边缘用户的性能严重影响了小区的总体性能。最后,针对3D MIMO系统小区边缘的性能优化问题,提出了划分小区边界并进行补盲的组网方案。主要利用3D MIMO系统可以获得用户方位角度和下倾角度的特点,结合支持向量机方法,通过认知学习获得小区边界,在小区边界进行补盲。仿真结果显示,所提出的组网方案可以使平均吞吐量获得5%以上的提升,边缘用户吞吐量获得47%以上的提升。