随着无线通信技术的飞速发展,频谱资源变得日益紧张。多输入多输出(Multiple Input Multiple Output,MIMO)技术是解决这一问题的有效手段。研究发现,作为MIMO系统的关键技术之一,预编码技术能有效提高系统频谱效率、增强链路可靠性等,特别是在多用户场景下。多用户预编码设计面临的首要问题是解决多用户干扰抑制问题。在多用户场景下,发送端对多用户干扰抑制的同时,会造成发射功率增加,导致系统性能下降。同时,为了改善系统性能所引入的非线性操作,也会增加预编码的计算复杂度。针对上述问题,本文在对现有的预编码技术深入分析的基础上,提出了一些具有不同结构特点、适用于多种场景的多用户预编码方案。本文的研究内容主要包括:1)提出了一种低复杂度的减格(lattice reduction,LR)预编码算法。在分析减格算法对信道正交性影响的基础上,该算法在固定复杂度LLL算法结构中引入正交缺陷(orthogonality defect,od)作为减格信道正交性的量度。利用预设的od门限值来自适应提前中止减格处理,因此该算法可有效降低减格算法复杂度。此外,为了衡量提前中止LR处理对减格预编码算法性能造成的损失,提出了功率损失因子(Power Loss Factor,PLF)。通过最小化PLF可获得优化od门限值,实现算法性能和复杂度的优化折中。仿真表明,该算法能够显著的降低减格预编码算法的复杂度,而系统的误码率性能类似于传统减格预编码算法。2)对两种不同结构的TH预编码算法进行了深入的探讨,在分析了TH预编码容量的理论基础上,提出了一种基于容量优化的TH预编码算法。该算法针对预抵消的干扰信号缩放处理,并根据集中式TH预编码和分散式TH预编码的不同特点,充分利用了已知的信道信息来优化不同的缩放因子,有效的提高了系统容量。此外,我们还探讨信道预排序对TH预编码性能的影响,并提出了一种适用于集中式TH预编码的低复杂度排序算法。3)提出一种多级减格辅助的门限矢量预编码算法。算法通过采用LLL减格预处理来减少门限矢量预编码算法的计算复杂度。文中首先证明了在给定的信噪比门限的情况下,采用LLL减格预处理能够降低球形编码算法的搜索概率。其次,证明了采用LLL减格预处理能够减少球形编码算法的搜索空间。最后,我们提出了一种多级LLL算法来进一步降低LLL减格预处理的复杂度。通过仿真验证,我们提出的多级减格辅助的门限矢量预编码算法能够显著降低计算复杂度,并且在慢变信道和快变信道下都有很好的复杂度性能。4)针对用户端有多接收天线的多用户MIMO系统,提出了一种结合收发联合处理的矢量预编码算法。首先通过对信道矩阵进行部分干扰抑制,并在用户子信道采用主特征模式传输技术进行收发联合处理,使得算法在获得用户子信道分集增益的同时,等效信道矩阵的维度也得到了降低。然后,结合矢量预编码算法,对降维的等效矩阵进行矢量扰动,有效的减少发射功率。通过的算法性能和复杂度进行分析,我们发现该算法在有效减小计算复杂度的同时,获得了比传统的多接收天线的预编码算法更好误码率性能。