正交频分复用（OFDM）是一种特殊的多载波传输方式，它能满足无线系统中高速数据传输的要求，有效抵抗信道中的频率选择性衰落。多输入多输出（MIMO）技术利用空间分集，可以提供4G通信中所需求的高容量，高覆盖率和可靠传输。将MIMO与OFDM相结合形成的MIMO-OFDM系统，可以使人们对未来移动通信业务越来越高的需求得到满足，因此，4G无线宽带系统将其作为物理层的关键技术。因为无线通信中传播环境的复杂性和不确定性，信道估计成为接收机中一个重要的部分，估计的准确度直接关系到系统性能的好坏。本文的信道估计研究以MIMO-OFDM系统为基础进行的。首先介绍了无线信道特性和MIMO-OFDM系统的基本原理，重点介绍空间复用OFDM系统，典型的模型是VBLAST-OFDM系统。基于导频的信道估计是在发送端发送已知信号，通过选择合适的算法，对接收信号进行处理得到信道的频率响应。影响基于导频的信道估计性能的因素有三方面：估计方法，导频模式和信号检测方法。本文的信道估计方法选取的是时域最小二乘（LS）算法，其复杂度低，易于实现。导频选用最优导频序列。分析表明，最优导频序列能准确区分不同的子信道，且它能进一步降低LS估计的复杂度。在VBLAST-OFDM系统中，为了在接收端区分来自发送端不同天线同时发送的信号，需采用信号检测算法。典型的有迫零（ZF）线性检测和最大似然（ML）非线性检测等，根据不同的需求，可以选择不同的检测算法。本文重点研究对时域LS估计的改进算法。由于LS算法的估计精度不高，本文提出将自适应滤波算法与LS估计相结合的思想。通过对初始的时域LS算法进行自适应迭代运算，使估计的准确度更高。重点分析了归一化最小均方（NLMS）自适应滤波算法和递归最小二乘（RLS）自适应滤波算法，并对MSE性能和收敛性进行仿真，同时分析不同信道参数对算法性能的影响。理论分析显示，在相同的条件下，RLS算法的MSE性能和跟踪性能均比NLMS算法好，但是，这种好处是以计算复杂度为代价的。