无线通信正经历着它自诞生以来发展最快的时期,它的迅速发展归功于先进通信技术的研究与应用。随着无线通信系统实际应用的迅猛普及,无线通信用户数和用户服务需求成指数性增长,但可用于无线通信服务的无线电频谱资源极其有限,使得不断增长的无线服务需求与有限的无线电频谱资源之间的矛盾日益突出。MIMO多天线技术正是在这一背景下发展起来的一种新型无线通信技术,它能够极大地提高通信系统的频谱利用率、满足用户的高速率通信需求,因此得到了国内外广泛的关注和研究,它已经成为下一代移动通信系统中极具发展前景的技术之一。本论文侧重于线性MIMO系统预编码技术的研究,方向导数理论和盖理论是本论文研究得以进行的数学理论基础。本论文主要研究内容包括：基于方向导数理论的最优线性MIMO预编码设计的研究、基于盖理论的最优能量分配策略的研究、多用户MIMO系统中用户选择与QOS控制策略的研究。本论文的主要贡献和创新之处列举如下：·基于最小化均方误差准则,提出了一种适用于多种能量约束(lp范数能量约束)的最优线性MIMO系统预编码设计框架,并且从方向导数理论的角度证明了最大化信道容量准则和最小化MSE矩阵行列式准则的等价性。·在联合总能量约束和峰值能量约束下,提出了一个适用于多种设计准则的最优线性MIMO系统预编码设计框架。与近似的lp范数约束问题相比,该设计框架能取得最优的系统性能。此外,在理论上证明了联合能量约束下的能量分配具有分段线性性,从而推导出了一种极其快速的能量分配策略。·基于最大化信道容量准则,提出了一种QoS约束下最大化上行链路信道容量的最优能量分配策略,从盖理论的角度给出了能量分配的最优结构。与现有算法相比,采用搜索变量代换的改进最优能量分配算法的计算复杂度大幅度降低,即使在最坏情况下也仅需原有一半的计算复杂度。·最大化信道容量准则可获得高的传输速率,但有失用户间的公平性原则。基于最大化最小速率准则,提出了一种QoS约束下具有公平性原则的最优能量分配策略,并利用盖理论,证明了能量分配的最优结构,且导出了-个接近具有闭式解的最优能量分配方案。·贪婪用户选择方案的瓶颈在于随着用户数的增加,用户选择算法的计算复杂度急剧增加。基于Householder变换,提出了一种适用于迫零编码和脏纸编码下的快速贪婪用户选择算法。在与现有算法获得相同性能的前提下,该算法只需微乎其微的计算复杂度,从本质上解决了贪婪用户选择算法的瓶颈。·基于Perron-Frobenius定理,在发射能量加权和受限且系统资源已过载情况下,提出了一种适用于接纳更多用户数的最优QOS等比例控制算法,并推导出了具有闭式解的能量分配方案。由于无需迭代过程,所提算法具有合理的计算复杂度和稳定性。