在移动通信系统中，MIMO系统利用多个天线进行发送和接收信号，能够增加信道容量。目前，MIMO技术已经成为移动通信系统实现高数据传输速率、高传输质量、高系统容量的关键技术之一。MIMO技术应用于实际系统中的关键因素是其检测算法性能的好坏和运算复杂度的高低。寻找高性能低复杂度的检测算法一直是MIMO领域的重要研究方向。 在宽带MIMO无线通信系统中，通常面临频率选择性衰落信道。而OFDM技术是一种高效的多载波调制技术，能够有效对抗频率选择性衰落、降低码间干扰。因此，将OFDM技术和MIMO技术相结合来提高系统的容量和性能，成为一项极具挑战性的研究。为了保证系统良好的性能，MIMO-OFDM系统下的信道估计和接收端信号检测是至关重要的技术。本文重点研究了各种信道估计算法和信号检测算法。 论文首先介绍了无线信道的特征，并建立多种无线信道模型。第三章详细介绍了MIMO系统和OFDM系统的原理及关键技术，在此基础上研究MIMO与OFDM相结合的系统。第四章重点研究了MIMO-OFDM系统中基于导频辅助的信道估计算法，并对基于不同准则的信道估计算法进行仿真研究，分析其性能；介绍了恢复信道信息状态的不同内插方法，并进行仿真及性能分析；本文还基于最小二乘准则推导了最优导频的选择。论文第五章研究了基于空间复用的MIMO-OFDM系统中信号检测算法，对最优算法和次最优算法的性能和计算复杂度进行分析，在此基础上提出了一种基于线性检测算法的改进算法，该算法能够在不明显增加计算复杂度的前提下，有效提高系统的误码率性能。