近年来，多输入多输出(MIMO)技术成为无线通信领域的研究热点之一，它被广泛用来提高通信系统的容量或者改善无线链路的传输质量。其中，作为MIMO空间复用技术典型代表的垂直-贝尔实验室分层空时(V-BLAST：VerticalBell lab Layered Space-Time)系统，以及作为空间分集技术典型代表的空时分组编码(STBC)尤其受到广泛的关注。MIMO接收端的检测算法一直是系统设计的重点和难点之一。 本文主要研究了MIMO系统中的高性能接收端检测算法技术，包括V-BLAST系统，STBC与BLAST结合系统中的检测算法性能研究，以及MIMO技术在后三代(B3G：Beyond 3G)无线新技术验证平台中的应用。首先对V-BLAST系统中的各种检测算法进行了深入分析。在此基础上，针对B3G无线系统中对上下行链路的不同的参数和性能要求，提出了相应的系统结构设计方案，并分析比较了不同系统设计方案下检测算法的误比特率(BER，Bit Error Rate)性能，数值稳定性和算法复杂度。根据仿真和数值分析选取上下行链路中MIMO接收端检测算法。通过B3G平台的系统仿真，给出了具有良好的系统BER性能和数值稳定性的接收端检测算法分析结果。 由于单一的接收端检测算法很难达到BER．性能和算法复杂度之间好的折衷，本文提出了一种基于信干噪比(SINR，Signal to Interference and Noise Ratio)判决的联合检测算法，最小均方误差判决反馈检测QRM(MMSE-DFD-QRM： Minimum Mean Square Error-Decision Feedback Detection-ORM)算法。该算法通过比较接收端各子流的SINR值和门限值，对各子流分别进行MMSE-DFD检测或QRM检测。数值仿真和分析说明，MMSE-DFD-QRM算法在显著降低算法复杂度的同时，能获得良好的BER性能和数值稳定性。同时可以通过改变系统设置的SINR门限，获得复杂度和性能之间好的折衷。