预编码是一种干扰消除技术,常用于多输入多输出系统(Multiple Input Multiple Output,MIMO)的下行链路。由于大规模MIMO系统有比MIMO系统多出几个数量级的基站天线,复杂度相对较小的线性预编码实现近似最优性能的同时,也会带来矩阵求逆复杂度的增加。迭代算法的提出代替了线性预编码中的矩阵求逆,减小计算复杂度,但是会出现误码率性能不够好的情况。而松弛迭代法中含有参数,可以通过选取合适的参数来适应不同的实际问题。现有的松弛迭代算法在提升误码率性能的同时无法保证其收敛速度,即无法平衡二者间的关系。论文从平衡算法的误码率性能和收敛速度的角度,对基于松弛迭代的预编码算法进行研究。论文首先对大规模MIMO系统的预编码方法进行了分析归纳,研究了预编码的基本原理,并对几个常用的线性预编码算法进行了分析。重点研究了松弛迭代算法中的逐次超松弛迭代(Successive Over Relaxation,SOR)预编码算法和对称逐次超松弛迭代(Symmetric Successive Over Relaxation,SSOR)预编码算法,且在瑞利衰落信道中,对这两种预编码算法进行仿真以及对比分析。接着,我们研究了一种快速超松弛迭代算法,在此基础上,针对实际大规模MIMO系统,从提升收敛速度的角度,对其加速因子的选取进行改进,根据随机矩阵理论,利用正定Hermit矩阵谱半径和特征值之间的关系,使加速因子由原来根据系数矩阵的Jacobi矩阵的特征值改为利用系数矩阵的Jacobi矩阵的谱半径表示,而系数矩阵的Jacobi矩阵的谱半径只与系统收发天线数有关。从而提出一种基于加速因子改进的快速超松弛迭代(Accelerated Over Relaxation,AOR)预编码算法。我们分析了该算法的复杂度,并和Neumann级数展开预编码算法,SOR迭代预编码算法进行比较,在收敛速度和误码性能方面,与改进前的AOR迭代预编码算法,SOR迭代预编码算法和Neumann级数展开预编码算法进行仿真比较,结果表明,改进后的AOR迭代预编码算法收敛速度快于其他三种算法,且误码率性能也得到了保证。在AOR迭代算法的基础上,从提升误码率性能的角度考虑,进行进一步的改进,将其在前向和后向分别应用一次,形成一种对称快速超松弛迭代(Symmetric Accelerated Over Relaxation,SAOR)算法,并对加速因子的选取方法进行了改进,使它仅与系统收发天线数有关,利用改进后的SAOR迭代构造预编码矩阵,提出了一种改进的SAOR迭代预编码算法。分析了改进的SAOR迭代预编码算法的复杂度,并将其与SSOR迭代预编码算法以及Neumann级数展开预编码算法进行比较。最后对改进的SAOR迭代预编码算法的误码性能,收敛速度进行仿真分析,并与SSOR迭代预编码算法和Neumann级数展开预编码算法进行对比。