随着移动互联网技术的快速发展,无线数据业务也呈现爆发式增长,传统频段将很难满足人们日益增长的需求。毫米波（mm Wave）和大规模多输入多输出（Multiple-Input MultipleOutput,MIMO）技术的结合推动了第五代移动通信系统（The Fifth-Generation Mobile Communication System,5G）的发展。与传统低频段通信相比,毫米波频段可用带宽较大,可以显著提高系统容量。此外,因为其波长较短,所以大规模天线阵列能够集成到一个小的物理空间中,并提供足够的阵列增益来减少毫米波信号的自由空间路径损耗,同时减弱通信中的一些噪声干扰,提升通信质量。全数字预编码中每根天线都连接一条射频（Radio Frequency,RF）链,具有较高的成本和功耗,为了解决这一问题,本文针对单用户毫米波大规模MIMO系统混合预编码的设计问题进行了一系列研究,主要基于全连接（Fully-Connected,FC）结构和子连接（Sub-Connected,SC）结构,综合分析了混合预编码算法的频谱效率、能量效率及复杂度等指标,本文主要研究内容如下:1.第一章说明了毫米波大规模MIMO系统中混合预编码算法的背景及意义,介绍了两种结构下混合预编码方案的国内外研究现状,并说明了本文的研究内容及结构安排。2.第二章首先基于毫米波特性和信道模型对毫米波技术进行介绍;然后从大规模MIMO技术、系统模型两个方面,介绍了大规模MIMO系统;最后从数字预编码、模拟预编码和混合预编码三个方面对预编码技术进行概述。3.第三章提出了一种基于FC结构的低复杂度混合预编码算法。利用迭代的方法,找到模拟预编码矩阵和数字预编码矩阵,使之与全数字预编码器最接近。相较于正交匹配追踪（Orthogonal Matching Pursuit,OMP）算法,本章所提算法不需要对天线阵列的几何形状或其他约束作出任何假设,且实现的复杂度更低。仿真结果显示,增大信噪比和数据流数,所提算法的性能接近全数字预编码算法,并显著优于OMP算法。4.第四章提出了一种新的基于SC结构的混合预编码算法。首先,因为所有RF链路都连接到一组天线,基于此结构,可以构建一个模块化的对角阵;其次,以总频谱效率最大化为目标,逐一优化所有子阵列的频谱效率,求出模拟预编码矩阵;最后,借助最小二乘（Least Square,LS）法获得数字预编码矩阵。通过分别优化模拟预编码器和数字预编码器的方法,代替联合优化问题,使得每个优化问题都消除了复杂的迭代过程。仿真结果表明,该算法可以实现能量效率、频谱效率、复杂度之间的折衷。5.第五章提出了一种基于注水算法的SC结构混合预编码算法。在第四章算法中,当数据流数量大于1时,只有采用相等数量的RF链路才可以获得较好的算法性能。为了解决Ns和RF链二者数量关系之间的限制,本章首先利用第四章中的方法求出模拟预编码器;然后,基于注水算法,对Ns进行功率分配,来求解数字预编码器。仿真结果显示,当系统两端的RF数量大于Ns数量时,所提算法能拥有比第四章所提算法更高的频谱效率,且接近OMP算法。6.第六章概括了本文的主要研究内容及成果,指出了不足之处,并对下一步的研究重点进行了展望。