多输入多输出(MIMO，Multiple Input Multiple Output)技术是无线通信技术发展的一次重大飞跃，它能够突破传统无线频率资源分配的限制，大幅度提高无线通信系统的频谱效率，被公认为是无线通信技术的未来发展趋势和4G标准的重要内容。MIMO技术也打破了传统的无线通信模式，它要求系统使用多个发射和接收天线同时同频的发射和接收数据，在无线通信的系统结构、分析方法、调制、编码、信道估计、检测、多址方式等各个方面都提出了许多新的需要解决的问题。MIMO系统的一个重要特性就是可以通过空分复用技术来提高数据传输率，本论文在国内外相关研究工作的基础上，深入研究了点对点MIMO系统中的VBLAST结构以及点对多点MIMO系统(多用户MIMO系统下行链路)中的空分复用技术。具体的研究内容和创新性成果包括如下几个方面： 1.提出了VBLAST系统接收端的配对顺序干扰消除信号检测算法(POSIC，Pairwise Ordered Successive Interference Cancellation)。在传统的VBLAST系统信号检测算法中，ZF、MMSE等线性检测算法较为简单但性能较差。在非线性检测算法中，基于判决反馈均衡(DFE，Decision Feedback Equalization)的顺序干扰消除(OSIC，Ordered Successive Imerference Cancellation)算法易受到差错传播的影响。ML算法虽然具有最优解，但由于算法复杂导致了实现难度大。本文提出的配对顺序干扰消除算法将发射数据流两两配对进行排序，在每个并行的检测步骤中使用ML算法联合检测出两个发射数据流，并在下一步骤之前使用GIS(Group Interference Suppression)消除该数据流对后续检测数据流的干扰。既降低了每步ML算法的复杂度，又提高了每步的检测精度，从而减小了差错传播效应，达到了性能与复杂度的某种折衷。 2.研究了VBLAST系统中发射端的线性与非线性的预均衡算法。当VBLAST各空间子信道之间存在较强相关时，线性ZF预均衡算法虽然能够完全消除某个发射数据流对其它数据流产生的共道干扰(CCI)，但同时也忽略了对接收端噪声的抑制。为此我们提出了一种兼顾干扰消除和噪声抑制的最大SJNR(Signal-Jamming-Noise Ratio)预均衡算法，并获得了优于ZF预均衡算法的性能。 3.在多用户MIMO下行链路中块对角化(BD,Block Diagnolization)算法的基础上，提出了多用户MIMO下行链路中基于最小全局均方误差准则的TX-RX联合优化算法。根据各用户噪声功率的大小，动态分配了各用户的发射功率，从而获得了比固定分配发射功率更好的整体性能。 4.提出了多用户MIMO下行链路信道的改进BD分解算法，在对下行链路信道进行块对角化之前使用THP(Tomlinson-Harashima Precoding)对各用户发射信号进行预编码，并根据各用户噪声功率的大小确定其预编码顺序的先后。与BD算法不同，改进BD算法可以将下行链路信道分解为具有不同空间发射分集增益的等效子信道，通过将具有较大发射分集增益的等效子信道分配给具有较大噪声功率的用户(最大最小准则)，获得了整体性能的提升。 5.针对单接收天线用户的情况，提出了一种多用户MIMO下行链路中基于最大信号一阻塞一噪声比准则的THP预编码算法。与使用ZF(Zero Forcing)准则消除剩余MUI(Multi User Interference)的传统THP预编码算法相比，该算法在消除每个用户发射数据对其它用户产生的阻塞干扰的同时也避免了接收信噪比的损耗，从而获得了整体性能的提升。