如何在频谱受限、功率受限的无线与移动信道上实现高带宽的可靠通信，一直是通信业界研究的热点。二十世纪九十年代以来，Turbo码、LDPC码等一系列逼近Shannon性能限的纠错编码被发现，成为信道编码理论研究的重要里程碑，成为3G、B3G与4G系统的参考标准。多发送天线、多接收天线(MIMO)技术，为通信系统提供了分集增益与多路复用增益，提高了通信的频谱效率，减少了无线与移动信道上衰落对于通信系统的不利影响。如何将LDPC码与MIMO系统结合起来，并针对MIMO系统设计与优化LDPC码，成为当前研究的一大热点。因子图、和积算法与EXIT图是理解与设计迭代译码系统的重要工具，本文将以2×2平坦Rayleigh衰落信道为例，将这些工具应用到LDPC编码MIMO系统中，对系统进行分析、设计与优化。本论文的研究和创新工作主要包括以下内容：(1)阐述了MIMO系统的原理，从信道分解与互信息量最大化两个角度详细推导了MIMO系统的信道容量。介绍了当前主流的空时编码系统，如空时网格码(STTC)、空时分组码(STBC)、分层空时系统(BLAST)。总结了MIMO技术的研究现状与发展方向。(2)介绍了规则与非规则LDPC码的构造与Tanner图表示，详细推导了LDPC码消息传递译码算法，阐述了密度进化算法的原理。(3)综述了LDPC编码MIMO系统与其竞争方案的研究现状，总结了主要的尚待解决的问题，提出了LDPC码与MIMO调制器的串行级联系统方案，通过理论推导与仿真，进行了全面的讨论。(4)介绍了因子图与和积算法，深入理解了基于图的码与迭代译码算法，并基于迭代译码原理，提出了双重迭代MIMO检测器。在深入理解LDPC编码MIMO系统的基础上，设计了MIMO解调器与LDPC变量节点译码器间的和积算法，在检测器和解调器间采用迭代消息传递方案，来近似最佳联合检测／译码。(5)介绍了外部信息转移图(EXIT图)。论述了在BEC信道、AWGN信道下如何利用EXIT图来设计LDPC码的规则。以2×2 MIMO系统为例，应用线性规划与曲线拟合，来设计最大化码率的LDPC码字。(6)考虑到译码复杂度与译码精度之间的权衡，作者设计了次最优的干扰消除MIMO检测器，并与双重迭代MIMO检测器进行了对比分析。