随着移动互联网大数据时代的飞速发展,人们对数据流量的需求与日俱增,第四代(4G)移动通信系统已逐渐满足不了趋势下用户对数据传输速率的要求。Massive MIMO技术凭借能进一步大幅度提升系统容量和频谱效率的优势,成为即将到来的第五代(5G)移动通信系统中公认的关键技术之一。实际Massive MIMO系统在实现提升容量、提高可靠性、改善效率等优越性能的同时也面临着一系列挑战。Massive MIMO系统是在基站端部署大量天线以服务更多用户,这会导致在预编码的过程中引入大维度矩阵求逆运算,大大增加了系统的计算复杂度。因此,本文在保证Massive MIMO近似最优性能的前提下,重点对低复杂度的预编码方案进行了研究。首先,本文介绍了无线通信的信道模型,选定后续研究所用的信道服从Rayleigh衰落分布。详细分析了传统MIMO和Massive MIMO的系统模型架构,并进行仿真对比分析,证明Massive MIMO可以成倍提升系统容量的特性。同时,研究Massive MIMO系统中MF、ZF、RZF等经典线性预编码,并对其进行理论分析及性能仿真。为了避免对大维度线性预编码矩阵直接求逆,研究了基于NS展开的预编码算法,作为后续研究成果的评判标准。其次,从降低复杂度的角度出发,本文提出了一种基于高斯-赛德尔迭代的预编码改进算法。该算法是在性能较优的RZF预编码基础上,利用GS迭代算法代替矩阵的求逆运算,同时将初始解向量以逼近传输信号为目的,优化为基于区域选择的初始解向量。通过理论分析收敛速率和计算复杂度,并与经典RZF预编码和基于NS的预编码进行系统容量和BER性能的仿真对比分析。最后,从降低复杂度和提升系统性能两方面出发,本文提出了一种基于对称超松弛迭代的预编码改进算法。该算法是在GS的基础上引入松弛因子,并对其进行对称处理,再基于Massive MIMO系统信道硬化的特性优化初始解,最后制定一种随迭代信号相关变化的功率控制因子?的自适应更新机制,同时给出最优松弛因子和初始解的简单选取方法及其取值的必要条件。最后通过理论分析复杂度,并与RZF预编码和基于GS迭代的预编码进行系统容量及BER性能的仿真对比分析。