无线移动通信呈现宽带化和移动化的发展趋势，人们对数据传输速率提出越来越高的需求。MIMO系统利用多个收发天线充分开发空间资源，在不增加频谱资源和天线发送功率的情况下，可成倍地提高系统容量，降低误码率，提高无线传输的可靠性，然而存在多维信号检测复杂度高、高信噪比下检测性能差的问题。本文以寻求最佳检测性能与复杂度折中方案为原则，对MIMO V-BLAST系统的信号检测算法展开研究。本文首先介绍了无线信道衰落的基本原理，对MIMO信道的空时特性和衰落特性进行了分析，利用基于相关矩阵的MIMO信道建模方法建立了系统的信道模型。然后对传统的V-BLAST检测算法，如ZF检测、MMSE检测、OSIC检测、QR分解算法等进行了仿真分析。针对基于QR分解的树搜索检测算法可以加快检测的速度，并获得渐近最优的性能，但复杂度比较高的情况，论文重点研究了对该算法的改进方向和方法，并仿真分析了三种自适应的QRM检测算法。最后，针对MIMO系统，将SQRD算法与QRM检测相结合，本文提出了改进的QRM检测算法(SQRD-QRM算法)，通过仿真分析，所提的算法不仅获得很好的检测性能，而且显著地降低了计算复杂度。