多输入多输出(MIMO)技术在通信链路两端均使用多天线，它可以极大地提高频谱利用率和链路的可靠性，成为第四代移动通信系统的关键技术之一，并已被IEEE802.16采纳，同时也纳入IEEE802.11的研究范畴。目前，MIMO技术已成为移动通信领域一个倍受青睐的研究方向。 早期对MIMO系统的研究大多基于“独立信道”模型，而实际的MIMO信道存在空间相关性。另外，多天线增加了MIMO系统的复杂度及成本，制约了MIMO技术的应用，而基于相关矩阵的MIMO系统快速天线选择可以有效地降低系统复杂度。为此，本文首先深入系统地研究MIMO系统的天线选择问题，其主要工作包括：研究了空间相关MIMO信道及KeyholeMIMO信道下的天线选择问题，并导出了相应的误码率封闭表达式，导出了误码率性能紧致的上边界表达式；同时导出了不同调制方式下具有天线选择的MIMO系统误码率表达式及其相应的紧致上边界表达式；提出了空间相关信道条件下基于容量最大准则的天线选择算法，进而将随机功率分配方案应用于被选择的天线，以此获得最大系统容量并同时实现快速天线选择。另外，本文还研究了具有不等功率共道干扰的MIMOMRC系统中断概率性能，并导出了中断容量的封闭表达式。上述理论研究结果与相应的数值计算及其仿真结果一致。 自适应技术能够有效地提高MIMO系统的频谱效率以及改善链路通信质量，其基本思想是在MIMO系统的发射端根据信道状态动态调整发射功率、调制方式及编码方式等。为此本文首先研究了具有功率控制和自适应速率调整的MIMOMRC系统的频谱效率及其误码率性能，并同时考虑了延迟反馈对系统频谱效率的影响；研究了具有多用户分集和不同传输方案的MIMO系统自适应功率分配问题，导出了该方案下系统容量的封闭表达式。鉴于迄今为止基于不完全CSI的MIMO系统优化设计仍然是一个公开的问题，本文研究了具有信道估计错误的MIMO系统的发射机优化设计问题，其中将基于不完全CSI的MIMO系统优化设计转化为具有多约束条件的、以频谱效率最大化为准则的数学优化模型，并在约束条件下利用拉格朗日方法对目标函数进行求解，得到了有关结果。相应的数值计算和仿真验证了理论研究结果的正确性和有效性。