近年来，随着移动通信技术的迅速发展，人们对无线通信系统所提供的业务种类和服务质量提出了越来越高的要求，这无疑推动了高速宽带无线通信系统的发展和应用。多输入多输出(Multi-Input Multi-Output，MIMO)技术能在不增加带宽的情况下成倍地提高系统容量和频谱利用率。正交频分复用(Orthogonal FrequencyDivision Multiplexing，OFDM)技术拥有极强的抗干扰能力和抗频率选择性衰落的能力，能够弥补MIMO技术无法对抗频率选择性衰落的不足。两者结合构成的MIMO-OFDM系统充分发挥了两者的优势，拥有了频谱利用率高、信息传输速率高、传输性能稳定等基本特征，已被公认为是第四代移动通信系统(4G)以及未来无线移动通信最具竞争力的方案之一。本文的主要工作就是针对影响MIMO-OFDM系统中接收端质量优劣的非线性信号检测技术展开深入研究。　　 本文重点研究的是MIMO-OFDM系统的信号检测技术。首先介绍了MIMO-OFDM系统的原理。其次对系统中常见的传统检测算法进行了比较分析。从分析中可以看出，传统检测算法的计算复杂度比较低，但性能与最大似然算法相比还存在较大差距，在未来移动通信中应用存在困难。因此，寻找系统性能更加接近最大似然检测且计算复杂度较理想的非线性信号检测算法是非常必要的。QR分解检测与球形译码检测便是很有潜力的两种算法，也是本文研究的重点第三章中介绍了基于QR分解的非线性信号检测算法，先对标准的QR分解检测给以详细介绍，紧跟着介绍了基于SQRD的两个典型检测算法，之后提出一种对MMSE-SQRD分解的改进算法，该算法将最大似然检测准则引入求解过程中，从已分解信号的最后两层开始，等效为一个2*2的MIMO-OFDM系统，用ML检测判决后，回代到原QR分解算法中求解剩余信号。分析仿真结果和算法复杂度可知，改进排序QR分解算法的运算量有了小幅度增加，但在高信噪比区域内获得了优于MMSE-SQRD算法2dB的增益，检测性能有了明显地改善。最后，在重点研究标准SDA及基于深度搜索策略的SDA的基础上，将非线性检测算法中的SQRD检测引入信号检测的过程中，对KSDA算法进行了改进。改进算法发挥了非线性检测算法在降低信号误比特率方面的优势，通过设定门限值条件来选择检测算法，对SNR小于门限值的待检测信号采用KSDA检测，对其他信号采用SQRD检测。仿真结果表明，改进算法结合了SQRD检测和KSDA的优点，在计算复杂度和提高系统性能上取得了一个良好的折中。