大规模多输入多输出(MIMO)技术作为第五代无线移动通信系统(5G)中的关键核心技术,能够提高数据传输速率和链路可靠性,显著改善系统的性能。预编码技术通过利用基站端获知的信道状态信息对发送数据流进行预处理,达到增大阵列增益和消除干扰的目的,已成为大规模MIMO系统中的一项关键技术。本文对大规模MIMO系统下行链路预编码技术进行了研究,并基于毫米波信道进行了混合预编码算法的研究和仿真。本文的主要研究内容如下:1.研究了大规模MIMO系统的主要基本理论,包括毫米波信道模型,信道估计,大规模MIMO系统的下行链路模型,系统和速率,为全文研究奠定理论基础。2.研究了大规模MIMO系统中的预编码技术,从数字预编码,模拟预编码,混合预编码三个角度分别进行了研究。研究了采用混合预编码算法的大规模MIMO系统下行链路系统模型,初步研究了大规模MIMO系统混合预编码矩阵设计问题。通过Matlab,对几种典型的数字预编码算法进行了仿真分析。3.研究了一种大规模MIMO系统中的混合迫零(ZF)预编码算法。该算法在射频域利用等增益传输(EGT)算法和相位量化来获取大的阵列增益,在数字基带域利用超松弛迭代(SOR)来实现计算复杂度较低的基带ZF预编码,利用matlab对算法进行仿真分析,将混合ZF预编码与全数字ZF预编码进行对比,仿真分析表明混合ZF预编码算法能逼近全数字ZF预编码算法性能,且算法复杂度和硬件成本大大降低,仿真分析还表明混合ZF预编码量化精度越高,预编码算法性能越好。4.研究了一种大规模MIMO系统中的混合块对角化(BD)预编码算法,该算法更适用于基站端和用户端均为多天线且处理多流数据的场景。将预编码器结合接收端合成器同时进行设计,在射频域通过EGT算法设计模拟预编码矩阵,通过DFT遍历来求解模拟合成矩阵;在基带数字域,定义等效基带矩阵,对等效基带矩阵做两步SVD分解,得到基带预编码矩阵和每个用户k的基带合成器。最后采用按比例注水法对用户进行功率分配,最大化系统和速率。本章对混合BD预编码算法进行了仿真分析,将其与全数字BD预编码算法性能进行对比,仿真结果表明混合BD预编码算法有着良好的性能表现,且略优于全数字BD预编码。