自移动通信技术投入商用以来,人们对无线高速数据通信的需求与日俱增,对未来通信系统提出了相对于4G十倍甚至百倍的要求。与此同时,无线通信系统又面临频谱资源短缺和频谱效率受限等难题,因此各国研究者已投入很多精力研究频谱资源丰富的毫米波频段。虽然毫米波的信道条件比较恶劣,如路径损耗大、受大气和雨水影响显著等,但由于其波长短,对应的天线尺寸小,使得大规模的天线阵列可以被集成在很小的空间上,因此毫米波大规模MIMO技术成为了5G通信技术中最受关注的研究方向之一。为了抑制导频污染以提高系统容量,在MIMO系统中预编码技术十分关键。传统的全数字预编码技术要求一根天线配备一个模拟链路,这对于大规模的MIMO系统,从成本和能耗上讲是不可接受的,因此混合预编码技术受到了广泛的关注。本文主要围绕毫米波大规模MIMO系统的预编码算法进行研究,并提出了一种低复杂度高能效的混合预编码算法,同时对于基于迫零的预编码器进行了设计和实现。具体的研究工作主要包括以下几个方面:1)、从毫米波大规模MIMO系统的基本原理出发,介绍了几种信道建模方法,并分别对点对点和多小区多用户的系统容量进行了推导分析。然后,分别对常见的几种全数字预编码算法和混合预编码算法的基本原理进行了阐述。最后,简单介绍了三种常用的信道状态信息反馈方案。2)、针对多用户毫米波大规模MIMO下行链路提出了一种高能效的混合预编码算法。该算法将预编码器的数字部分和模拟部分分开优化。在发送端使用一种自适应网络来代替原来较复杂的连接结构,降低了实现复杂度。然后使用WMMSE准则联合设计了发送端和接收端的数字部分,以最大化系统速率。仿真结果显示该算法虽然系统性能相对传统预编码算法有所下降,但降低了实现复杂度且具备高能效性。另外,还对在接收端使用基于开关网络的天线选择算法的性能进行了研究,结果显示该算法尽管复杂度低,但性能损失也较大,不适宜在低信噪比环境中使用。3)、考虑硬件平台条件,设计和实现了基于FPGA的迫零全数字预编码器。本部分将整个预编码器模块化,并对每个模块的结构和设计要点进行了阐述,同时分析了运算复杂度和资源占用比。最后通过软件功能仿真和硬件测试验证了设计的合理性。