大规模MIMO相较于传统MIMO,传输天线的数量有了量级提升,有效提高了多用户空间的独立性,在空间对不同用户形成独立的窄波束覆盖,基于用户的空间隔离系统同时传输不同用户的数据,从而数十倍地提升系统吞吐量,已成为5G移动通信系统试运行及未来商用的重要技术之一。在服务多用户多场景同时大规模高速通信的5G环境下,大量的传输天线和服务多用户会带来严重的干扰和导频污染,而基于码本的预编码技术可以有效降低这些干扰。本文针对目前传统的预编码码本设计方案无法有效应用到大规模MIMO系统的问题,在分析大规模MIMO系统的信道模型、预编码相关技术的基础上,对如何降低导频污染问题和设计符合大规模MIMO系统的码本进行了研究,具体工作如下:首先,从码本设计、码本搜索和多用户选择三方面分析了大规模MIMO的预编码技术,搭建了多用户大规模MIMO下行链路预编码系统模型,针对不同的传输场景对比分析了多种3D MIMO仿真模型,重点介绍了WINNER 2仿真模型。然后,针对于大规模MIMO系统中的导频污染问题提出了基于改进DFT算法的信道估计方案。信号在通过变换域信道后得到时域冲击响应,对有用信号部分之外的干扰信号进行汉宁窗处理,筛选出有效的信道冲击响应,加快带外衰减,提高信道估计精度,以降低导频污染。仿真对比分析了LS估计算法、传统DFT估计算法、基于阈值的DFT信道估计和基于汉宁窗的改进DFT估计算法四种算法,提出的方法有效提高了抗信道时间衰落的性能,在一定程度上减轻了导频污染。最后,针对现有码本对信道量化精度差和信道多元性适应较差的问题,在码本的类型选择和结构设计进行了改进,设计了一种水平维利用DFT码本、垂直维用基于改进分割小区码本的3D码本构造方案,仿真结果表明改进的码本有效适应真实的大规模3D MIMO信道,并降低了码本搜索复杂度和用户选择反馈计算复杂度。