SM-MIMO系统可以实现大吞吐率和高频谱效率，但是SM-MIMO系统对病态信道矩阵非常敏感。可以采用自适应调制编码（AMC：Adaptive Modulation and Coding）和有限速率反馈预编码技术来帮助SM-MIMO系统抵抗信道衰落带来的损失，从而实现对SM-MIMO系统的性能优化。 本文围绕AMC技术和有限速率反馈预编码技术展开，对涉及到的关键问题做了深入研究和分析。包括：SM-MIMO接收机方案，AMC发射模式设计，Turbo编解码，预编码设计等。 本文首先讨论了各种典型的MIMO接收检测方案，如ZF， MMSE，SIC，OSIC，ML检测算法等。接着，本文深入研究了Turbo编解码的核心——Turbo迭代算法，给出了软信息（LLR：Log-Likelihood Ratio）设计和提取方法。特别的，推导了基于MMSE接收检测算法的软信息提取方法。在此基础上发展了基于Turbo-MMSE的MIMO迭代检测方案。对以上各检测方案在有无空间衰落相关性的信道条件下分别进行了仿真和分析。 在AMC设计方面，重点研究了PARC（Per-Antenna Rate Control）技术，分析了PARC技术的固有缺陷，给出了PARC的改进方案S-PARC（Selective Per Antenna Rate Control）；进一步地，重点分析了不同发射模式间的切换问题。探讨了最优切换门限的界定，并对实际的SM-MIMO系统最优切换门限的确定进行了仿真分析。 天线选择技术是PARC的一种特殊情况，在对天线选择技术的理论分析上，阐明了空间信道的衰落相关性给SM-MIMO系统带来性能损失的根本原因，从而奠定了有限速率反馈预编码技术的理论依据。 对于有限速率反馈预编码的设计，核心问题是预编码码表设计和最优码字选择算法。最后，本文将AMC和有限速率反馈预编码技术融合起来。搭建了相应的仿真平台。通过仿真可以看到，有限速率反馈结合AMC自适应调制编码技术，不仅是可行的而且是有效的。