作为LTE关键技术之一,MIMO技术能有效地提高频谱效率,增加系统容量,具有广泛的应用前景。在无线MIMO系统中,信道状态信息对于相干解调、空时检测与自适应传输等至关重要,信道估计的准确与否与系统性能密切相关。为了提高频谱效率,现代移动通信系统的频率复用率越来越高,小区间同信道干扰越来越强,严重制约系统系统性能。因此,论文将主要研究MIMO系统中信道和干扰协方差阵的估计方法,所完成工作包括以下三个方面：针对配备有二维天线阵列的MIMO-OFDM系统,提出一种基于压缩感知理论的信道估计方法。该方法联合估计三维空时信道的路径延时、方位角和仰角等参数。为了降低算法复杂度,提出一种分步估计方案：首先,利用信道在时延域的稀疏性,结合压缩感知理论,估计出所有路径的延时；然后,对于每条路径,利用其在角度域的稀疏性,估计出该路径的方位角和仰角；最后,将所估计出的信道参数代入空时信道模型,获得MIMO信道矩阵。所提方案较之于最小二乘(LS)估计,能显著地提高信道估计精度,同时减少导频开销。针对存在同信道干扰的MIMO-OFDM系统,提出一种最大后验概率的信道与干扰协方差阵估计方法。该方法联合估计信道与干扰协方差阵,提高了信道与干扰协方差阵的估计精度,在采用干扰抑制合并接收后,能显著地降低系统误码率。进一步,利用协方差阵的相关性和矩阵的秩,提出干扰协方差阵的两种处理方法,不仅保证了干扰协方差阵的半正定性,而且提高了估计精度。同时,采用最小描述长度算法完成了干扰用户数目和干扰信道多径数目的估计。针对存在同信道干扰的MIMO系统,分析了信道与干扰协方差阵的估计误差对系统可达速率的性能影响。利用随机矩阵理论,论文首先推导了系统可达速率的解析表达式,包括以下四种情况：a)理想信道、理想瞬时干扰协方差阵：b)估计信道、理想瞬时干扰协方差阵：c)估计信道、估计瞬时干扰协方差阵：d)估计信道、理想长时干扰协方差阵。通过与蒙特卡洛仿真结果对比,验证了所推导结果的正确性。最后,分析了信道和干扰协方差阵的估计误差对系统可达速率性能的影响。