5G移动通信中的关键技术大规模多输入多输出(Multiple-In Multiple-Out MIMO)在近年来广受关注,要减小用户间相互干扰和信道噪声带来的影响,在下行发送端需要进行预编码。随着信道矩阵维数的增加,预编码算法的复杂度也大大增加,人们一直试图降低各种预编码算法的复杂度,其中线性预编码方法因复杂度相对较低成为研究中关注的重点。因此,论文研究了大规模MIMO系统的模型及预编码方法。对大规模MIMO系统模型进行了分析;重点研究大规模MIMO中的线性预编码方法,针对几种传统的线性预编码算法,进行了理论分析和性能仿真,比较不同预编码算法的信噪比和误码率性能。讨论了一种基于诺曼级数展开的矩阵近似求逆预编码(Approximate Matrix Inverse Precoding AMIP)算法。本文的主要研究如下:(1)大规模MIMO系统模型研究:以MIMO技术理论为基础,针对大规模MIMO系统和MIMO系统的不同,对大规模MIMO的基础理论进行研究。分析了大规模MIMO系统模型。(2)线性预编码方法研究:在多用户MIMO和前期对大规模MIMO模型的研究基础上,对现有的瑞利衰落信道模型下的线性迫零(Zero Forcing ZF)预编码、最小均方误差(Minimum Mean-Square Error MMSE)预编码等几种线性预编码方法进行理论分析和性能仿真。(3)研究了基于诺曼级数展开的近似求矩阵逆的方法,并进行理论分析和性能仿真。基于诺曼级数展开的矩阵近似求逆预编码算法,相比传统的ZF和MMSE预编码算法然能降低预编码矩阵在大规模MIMO系统中实现时的硬件复杂度。