大规模MIMO(Massive Multiple Input Multiple Output)技术是蜂窝无线通信系统的关键技术之一,采用大规模天线阵列技术使蜂窝系统的信道容量显著提升。两阶段预编码技术是一种大规模MIMO下行链路去干扰手段,通过联合空分复用(Joint Spatial Division and Multiplexing,JSDM)技术将具有相似空间特性的用户分配至同一小组,分阶段消除组间干扰和组内干扰,有效降低了预编码的复杂度。然而,随着系统的增大,尤其是在多小区系统中,信道干扰较高、预编码复杂度激增的问题仍然存在。为改善以上几点问题,本论文主要研究了多小区系统下的两阶段预编码技术。首先,本文介绍了大规模MIMO系统及其预编码理论,简述了常见的两大类预编码算法,即非线性与线性预编码,并分析了它们在多小区系统中的应用前景。重点推导了联合组处理(Joint Groups Processing,JGP)和单组处理(Per Groups Processing,PGP)两种不同分组方式下的JSDM预编码方案和系统性能参数,分别说明了如何实现对信道矩阵的降维,并总结了实际应用中的分组方案选择和预编码流程。接着,本文研究了大规模MIMO多小区场景下的预编码问题,提出了一种基于Givens-QR变换的两阶段预编码方案。该方案通过多小区联合处理的方式共享用户分布信息,并利用基于Givens变换的QR分解对干扰信道进行处理,第一阶段获取各小区信道干扰矩阵的零空间,生成前置预编码矩阵,消除相邻小区外部的干扰,第二阶段计算小区自身不同用户之间的零空间,生成后置预编码矩阵,消除小区内部的干扰。通过理论分析验证了所提出的方案可获得显著低于传统块对角化方案的计算复杂度,仿真结果表明,该方案的误码率有所下降,可达速率也有一定改善。最后,本文研究了时变信道中的多小区预编码方案,讨论了一种前置预编码的补偿跟踪算法。将预编码的最优化问题映射到格拉斯曼流形上,利用格拉斯曼流形上的最小化迭代算法推导前置预编码矩阵的最优解,通过引入一个补偿项来估计目标信号子空间的变化,在通道协方差矩阵时变的情况下,增强了预编码器的跟踪能力。理论分析表明,本章所提出的预编码方案具有较低的算法复杂度,仿真结果表明,该方案的误码率有所下降,可达速率也有一定改善。