5G为海量终端用户提供了高效可靠的通信服务,给人们的交流和生活方式带来了巨大的便利。5G采用五大关键技术以实现其超高性能,其中毫米波频带资源丰富,可以实现数据的高速率传输,大规模多输入多输出（Massive Multiple Input Multiple Output,m MIMO）技术可以保证传输系统的可靠性。本文在如何设计毫米波大规模MIMO场景中的混合预编码技术方面主要做了以下工作:绪论中着重介绍了支撑5G高性能的五大关键技术,详细阐述了国内外预编码技术的研究现状,并对现有的混合预编码方案各自优缺点做了简要分析。第二章介绍了不同MIMO系统的基本原理,阐述了毫米波信道的特点及信道建模过程,详细分析了几种经典的混合预编码方案设计原理及设计过程,并通过仿真对比了各自性能。第三章针对下行链路为混合连接结构的毫米波大规模MIMO系统,提出了一种基于等效信道增益最大化的混合连接（Equivalent Channel Gain Maximization-Hybridly Connected,ECGM-HC）混合预编码方案。首先以原始信道矩阵和模拟预编码矩阵构成等效信道矩阵,并将其分解为子阵形式,以等效子信道增益之和最大化为目标求取各模拟预编码子矩阵,再对其进行块对角组合,从而得到模拟预编码矩阵,最后运用连续串扰消除的思想逐列求出数字预编码矩阵。所提算法可以灵活设置发送端子阵结构,具有更广泛的应用场景和更优的性能。第四章在收发端均为全连接结构系统下,设计了一种基于信道候选矢量矩阵的混合预编码方案。该方案根据信道“硬化”特性思想,发送端以信道共轭转置矩阵进行奇异值分解之后的左酉阵和对角阵的乘积作为模拟预编码矩阵的候选矢量矩阵,以数、模混合预编码矩阵乘积和最佳混合预编码矩阵之间欧式距离最小为目标函数,从候选矢量矩阵中更新迭代出最优模拟预编码矩阵,最后根据等效信道求得最佳数字预编码矩阵,接收端采用同样思想设计组合矩阵。仿真分析表明,该算法在完美信道与不完美信道状态信息下均能获得良好性能,优于正交匹配追踪算法。最后分析了文章中的不足并提出了后续研究的一些开放性问题与展望。