随着无线多媒体通信网络的高速发展以及用户数目的迅速增长,人们对无线通信系统中的高速率和高可靠性的数据传输业务的需求量与日俱增。在发射端和接收端拥有多个用户的MIMO系统,可以通过空间复用增益和分集增益分别提供的更高的数据速率和链路可靠性来满足需求。STBC和SM分别能提供空间分集增益和空间复用增益,是MIMO系统中最重要的两种技术。在提高分集增益的方法中,机会调度方案通过总是把信道分配给拥有最大信噪比的用户,延迟调度那些处在深衰落的用户,能利用多用户分集来提高性能;而天线子集选择可通过选择信道条件最佳的天线子集来提高空间分集、降低由射频链路产生的硬件消耗。本文主要针对目前在MIMO系统中存在的局限性,通过基于多项式展开的直接方法和基于泰勒级数的渐近方法,研究了以下三方面的内容:首先,基于空间分集和多用户分集,分析了机会调度对STBC-MIMO系统的影响。从实际系统出发,推导了在非理想的瑞利信道下结合机会调度与STBC的方案的误码率、中断概率以及信道容量的封闭表达式和渐近形式。仿真结果表明,分集增益的改善与多用户分集和空间分集的大小成正比,相反,信噪比增益却随着空间分集的增加而恶化,同时,非理想信道状态信息限制了基于有限信噪比的分集增益,并带来了容量的损失。接着,基于多用户分集,分析了机会调度对SM-MIMO系统的性能改善程度。推导了采用多进制QAM和PSK调制的中断概率和误码率的表达式和渐近形式,以及针对任意数目发射和接收天线的总速率容量表达式,并通过仿真验证了理论分析的正确性。该方案的分集增益与用户数成正比,因此,用户数越多,系统的性能越好。由于用户可以看成是等价的“虚拟”传输天线,故在设计多天线系统时,多用户分集应该被充分的利用来提高系统的性能。最后,基于空间分集和多用户分集,研究了天线子集选择和机会调度的联合方案及其对MIMO系统的性能影响。给出了理想信道和非理想信道下的误码率、中断概率以及总速率容量。分析和仿真结果表明,多用户分集和天线选择分集改善了系统的性能,但信道估计误差的存在却限制了系统可靠性地进一步提高,且在特定的信噪比范围,可通过选择最佳传输天线数来提高系统容量。此外,天线子集数会随着发射天线数的增加而增加,在不增加额外负担的情况下可以提高系统的性能。