近年来,随着移动通信的发展,当前的移动通信系统已经不能满足人们对获得图片传输、视频聊天等这种对通信质量有着更高要求的多媒体业务。针对当今越来越高的用户需求,人们开始把研究的目光转向下一代移动通信(5G)。为了能够在复杂的通信环境中实现大容量和大速率的数据传输,MIMO技术得到了不断的发展和完善并被作为5G中核心技术之一写入了相关的协议标准当中。本文主要是在研究这种关键技术的基础上对空时编码及检测算法的关键技术进行研究。本文首先介绍了 MIMO系统模型以及简要概述了几种常见的无线信道的特征和分集技术,紧接着通过理论推导和系统仿真的方式讨论了 MIMO系统的信道容量的变化情况;其次研究分析了在MIMO系统中典型的编码方案的编译码过程,给出了各种编码方案的适用场景以及对应的优缺点,并对结合了空时分组码和分层空时码两者特点的组合型编码进行了研究,改进了其译码算法,通过仿真分析了改进效果。最后研究了通过预加权技术处理去除信道相关性的差分空时码编码,并将多符号检测译码应用到了这一新型编码结构上,使其系统具有了更好的译码性能。随后,对MIMO系统中的检测算法进行了研究,包括经典的检测算法性能分析;重点研究了格基规约技术,格基规约中的LLL算法,利用格基规约技术对信道矩阵进行优化,使其具有更好的正交性,并将此技术应用于检测算法中,重点改进了串行干扰消除算法和球形译码算法,使这两种算法在改进后具有更好的译码性能,同时没有增加很大的算法复杂度。论文通过仿真证实了改进算法的可行性以及相对检测算法的所能够达到的优势和能够取得的系统性能。