随着Internet多媒体无线数据传输业务的飞速增长，在系统传输速率、系统传输质量与系统吞吐量等方面对无线通信系统提出了越来越高的要求。多天线MIMO技术能够提供分集增益和频率复用增益，在不增加带宽和天线发射功率的情况下，可成倍提高无线信道容量与频谱利用率。多载波OFDM技术可有效对抗频率选择性衰落，能有效抑制码间干扰。MIMO-OFDM系统融合两者的优势，是未来宽带无线通信的核心技术。空时码技术具有提高系统容量和改善通信链路质量，成为目前MIMO技术研究的热点问题。本文主要研究了MIMO-OFDM系统中的空时码技术，重点对空时分组码、分层空时码及级联空时码进行深入研究，全文共分为六部分，其具体工作和创新点概括如下：本文首先描述了论文研究背景与意义、概述了多天线多载波技术，以及空时码国内外研究现状；第二章介绍了MIMO技术和OFDM技术的概念、原理和特点，给出了系统与信道模型，并分析了MIMO系统容量；第三章给出了空时码设计准则，并介绍了空时格形编码与空时分组码，研究了空时分组编码及其在MIMO-OFDM系统中的应用，并对其进行仿真分析；第四章中重点研究了分层空时码及其在MIMO-OFDM系统中的应用，分析并仿真了分层空时码的译码算法,得出了最优算法检测出的信号最接近原始信号，性能最好，但复杂度太高，非线性算法对接收符号逐层迭代检测，其性能与复杂度都介于线性算法与最优算法之间。针对分层空时码译码复杂度高及误差扩散的问题，在QR检测算法基础上给出了一种改进MLQR算法，该算法对此接收信号进行最大似然检测，以提高首层信号的性能，经理论推导与仿真对比，该方法性能好于传统的QR分解算法；第五章将空时分组码与分层空时码相结合并运用到MIMO-OFDM系统中，采用STBC-VBLAST级联编码，可以有效抑制误差扩散，从而改善系统误码性能，论文针对分层空时码译码存在误差扩散效应，本文给出了一种自适应STBC-VBLAST级联空时编码方案，根据信道状态的好坏选择不同的编码方案，从而提高分层空时码的性能，一定程度上改善系统的整体性能。最后为全文总结，同时对论文的后续工作与问题作进一步论述并展望。