多输入多输出(MIMO)无线通信系统不仅能够巨大地提高信号传输速率并且能够较大地增加空间分集增益，是目前的一个研究热点，具有重要的研究价值。信号检测技术作为MIMO系统接收端关键技术之一，它的优劣能直接影响到了MIMO整个系统的性能，所以，它的优化改进也就成为了MIMO系统中的待解决的重要问题。　　 本论文具体内容和创新点如下:　　 (1)首先对MIMO系统进行了介绍，简要地分析了以最大似然检测算法、线性检测算法以及干扰抵消算法等为代表的各种传统的检测算法，总结各自的优缺点，并对这几种算法的性能进行了仿真验证。可以得到最大似然检测性能最优的结论。　　 (2)针对QR分解串行干扰抵消检测的误差传递这一问题，采用了联合检测算法，将最大似然检测与QR分解检测相结合，提出了改进算法。先进行最优的检测来保证先检测的信号正确性，从而减小误差传递的情况，再采用简单的QR分解检测。并对所得结果进行欧式距离判断，提高了系统的整体检测性能。最后对所提出算法进行仿真验证。结果表明改进算法的性能相较单一的QR分解检测有所提高。　　 (3)介绍了传统的迭代QR分解检测的详细算法流程以及仿真分析，针对其同样存在误码传递的问题，给出了一种基于可靠性判断的迭代QR分解检测算法。该算法通过对每次迭代检测最后层得到的估计值进行可靠性的判断减少误码传递。但是多次迭代只保留一个可靠估计值会有迭代冗余，因此进一步提出简化的改进算法。将每次迭代检测中所有层的信号估计值进行可靠性判断，减少了迭代次数但性能损失不大。最后利用MATLAB仿真验证改进算法的检测性能有所提高。