在多用户蜂窝移动通信系统中,若多个用户的发送或接收信号占据同一时频资源块,则会产生多用户干扰。与系统噪声相比,多用户干扰往往对系统检测性能的影响更大,因此,对多用户干扰进行有效抑制是提升多用户通信系统性能的重要手段。　　多用户干扰产生于第三代蜂窝移动通信系统中。作为码分多址(Code Division Multiple Access, CDMA)系统的特例,交织区分多址(Interleave-Division Multiple-Access, IDMA)系统已成为近年来移动通信领域的研究热点。然而IDMA系统由于多用户干扰的存在降低了接收端信干噪比,同步较为困难;同时,迭代多用户检测的计算复杂度仍然较高。能否有效解决这些问题将成为IDMA系统能否真正实用的关键。在多用户MIMO系统中,多个用户的发送或接收信号占有同一时频资源块,因此同样存在多用户干扰抑制的问题。对于多用户MIMO系统的上行链路,多用户干扰抑制问题即为多用户检测问题;对于多用户MIMO系统的下行链路,多用户干扰抑制问题则为预编码问题。本文对这些问题均提出了一些新的方案或算法,使其在有效抑制多用户干扰或消除多用户干扰影响的同时更易于实现。具体而言,研究内容主要包括以下几个方面:　　第一,对IDMA系统的同步技术进行研究。为降低多用户干扰对IDMA系统同步性能的影响,提出了一种系统同步捕获解决方案。对于IDMA系统的同步,直觉的方法是将传统CDMA系统中滑动本地扩频码片的捕获方式变为IDMA中滑动本地交织器的方式,此种方法的计算复杂度非常高,不宜在实际中采纳。本文提出一种 IDMA系统的同步技术,通过在该系统的发送机末端加入扩频操作,同时在接收机前端加入解扩操作,可有效将CDMA系统的同步技术平滑过渡到IDMA系统中来,进而解决 IDMA系统同步问题。本文通过仿真证明了该系统在有效实现同步的过程中,可达到与传统IDMA相近的误码率性能。　　第二,提出一种低复杂度低时延多用户干扰抑制方案,即分组扩频交织分多址(Grouped Spread Interleave-Division Multiple-Access, GSIDMA)。该方案利用IDMA接收机良好的抗多用户干扰能力,同时联合CDMA系统良好的抗多径衰落和用户分离能力,可在性能与IDMA系统逼近的前提下,进一步降低系统终端的复杂度和译码时延,提高处理的实时性。本文利用国际上分析迭代收敛过程的主流方法,外信息转移(Extrinsic Information Transfer, EXIT)图,对GSIDMA系统的迭代过程进行分析,为其性能分析提供了理论依据。对该方案在准静态单径和多径信道下的性能进行分析与仿真,结果表明,在一定总用户数情况下,GSIDMA系统的误码率性能均接近单用户性能,因此具有良好的多用户干扰抑制能力。　　第三,对多用户MIMO上行链路的多用户检测算法进行研究,并针对迫零排序串行干扰消除(Zero-Forcing Ordered Successive Interference Cancellation, ZF-OSIC)检测方法复杂度较高的问题,提出一种低复杂度的快速递归检测算法。算法的提出基于两个数学命题,首先引出这两个数学命题且给予证明,并利用该数学引理成功构建了该快速递归检测算法的核心部分。提出算法的计算复杂度为快速递归算法(FRA)的42.9％,同时具有更为简单的实现结构;该算法还具有无需矩阵行列置换及低存储空间的优势,而其它具有该优势的ZF-OSIC快速算法的计算复杂度为本算法的1.6倍以上。在实际天线数情况下,本算法的误码性能接近最优性能,保证了上述复杂度比较的公平性。　　第四,对多用户MIMO下行链路的多用户预编码算法进行研究。基于广义奇异值分解(Generalized Singular Value Decomposition, GSVD)的信漏噪比(Signal to Leakage-and-Noise Ratio, SLNR)预编码器的产生需要进行奇异值分解,因此计算复杂度较高。本文基于Fukunaga- Koontz(FK)变换,提出了一种新的基于SLNR的预编码算法。该算法无需进行奇异值分解,因此比基于GSVD的SLNR算法具有更低的计算复杂度。理论分析证明,提出的预编码算法与基于GSVD的SLNR预编码算法二者等效,从而印证了提出算法良好的数值稳定性;同时其复杂度较基于GSVD的预编码算法降低了34.3%~42%,因此更适合实际应用。数值仿真证明了提出算法的有效性。