无线信道作为无线通信的传输介质,会直接影响无线通信系统的传输质量。建立无线信道模型是分析无线信道特性和无线通信系统性能的重要途径。三维射线追踪技术作为一种确定性的信道建模方法,因其能够建立精确的信道模型而被广泛应用于无线通信的传播预测工作中。另一方面,随着移动互联网的快速发展,数据业务流量急剧增长,现实的需求促使人们不断改进现有的移动通信网络,提高系统容量。相较于传统的MIMO技术,3D MIMO及其核心的3D波束赋形技术可以从水平和垂直维度同时区分用户,降低用户间干扰和小区间干扰,提高系统吞吐量和频谱效率,是未来MIMO技术很有潜力的发展方向,也是当前3GPP标准化工作的一大热点。基于以上背景,本文主要对三维射线追踪技术和3D MIMO波束赋形技术的相关理论进行了研究,并完成了以下工作:第一,设计实现了可用于一般场景的基于四面体场景剖分的射线追踪仿真平台。基于四面体剖分的射线追踪算法将三维场景剖分成若干个四面体,并结合几何光学原理,几何绕射理论和一致性绕射理论确定射线在四面体中的运行轨迹,进而计算出场景内的场强(功率)分布。本文介绍了基于四面体剖分的射线追踪仿真平台所涉及的基本原理及其整体设计和详细设计,并将平台的仿真结果与基于空间体积分区(SVP)的射线追踪算法仿真结果进行对比分析。结果表明,四面体法在获得与空间体积分区算法(SVP)相近精度的仿真结果的同时,减少了射线与多面体面相交测试所消耗的时间,算法效率有了一定的提高。第二,设计了一个低复杂度的基于60GHz毫米波TDD系统的3D MIMO波束赋形方案,并实现了相应的波束赋形方案仿真平台。该3D波束赋形方案采用一种基于克罗内克积(Kronecker product)的3D码本,通过对码字矩阵的截取或抽样改变码字矩阵加权下的天线方向图,并在此基础上使用一种基于三级码本的分级方式和一种水平和垂直结合的分级方式,使得系统在波束赋形训练的过程中可以通过不同空间分辨率的码本集合进行渐进式的树形搜索,从而找到一个最合适的波束赋形矢量。本文还使用IEEE 802.11ad的信道模型在LoS和NLoS场景下对该波束赋形方案进行仿真评估。仿真结果表明,相对于NLoS场景而言,该3D波束赋形方案在LoS场景中更具适应性。该3D波束赋形方案在一定程度上提高了码本的搜索效率,同时用户信干噪比较2D波束赋形方案有所提升。在利用预编码进行干扰抑制后,可以进一步提升用户信干噪比,在一定程度上优化系统的性能。