天线选择技术是最近发展起来的一种非常有效的低成本低复杂度的多天线分集技术，具有重要的理论和实际价值，在无线通信领域正发挥着越来越重要的作用。论文针对MIMO系统中发射天线选择技术进行研究。在研究了天线选择基本算法的基础上，着重对空间复用和闭环发射分集系统中发射天线选择技术及优化设计进行了深入的研究。对于空间复用系统，考虑在使用具体接收检测算法的条件下如何设计天线选择算法。对于闭环空间复用系统，研究有效的传输模式来减轻反馈信息量。在闭环发射分集系统中，分析最大率传输模式下发射天线选择的接收性能，并以此设计系统的发射天线数量。同时将该研究方法引入到等增益传输模式下发射天线选择技术中，获得了一系列的研究成果。论文的主要贡献及创新点包括以下几个方面：(1)研究了空间复用系统中使用低复杂度接收机时的发射天线选择问题。低复杂度接收机分离并行复用数据流时，其性能取决于子数据流最小后检测信噪比。线性接收机是最简单的空间复用接收机，但其分离出的子数据流最小后检测信噪比可能非常小。为了提高子数据流最小后检测信噪比，本文使用BLAST接收机，它通过干扰抵消来提高子数据流后检测信噪比。提出了基于BLAST接收机的发射天线选择算法，它选择子数据流最小后检测信噪比最大的天线子集。仿真结果显示提出的算法在接收误码性能和信道容量上都优于基于线性接收机的发射天线选择算法；(2)研究了闭环空间复用系统中发射天线选择问题。在这个系统中，如果发射机端未知信道状态信息或发射信号总功率很高时，等功率传输获得的信道容量是最优的。在低发射信号总功率时，如果发射机端已知信道状态信息，那么结合注水功率分配算法的扩展最大率传输获得的信道容量最大，但这时需要的反馈信息量非常大。为了减少反馈信息，提出了一种基于部分最大率传输的发射天线选择算法，以及相应的发射天线功率分配算法。对于两个射频链路情况，证明了提出的方法只需要一半的反馈信息就可以获得扩展最大率传输所达到的最大系统信道容量。仿真结果显示与扩展最大率传输相比，该算法减少了系统在低发射信号总功率时的反馈信息量，并且提高了系统在高发射信号总功率时的信道容量；(3)研究了混合发射天线选择的最大率传输系统(TAS-MRT)。为了减少系统的成本和复杂度，提出了TAS-MRT系统中以平均接收信噪比为性能指标的最少发射天线数的计算方法。在此基础上，提出了基于平均接收误比特率的最少发射天线数的计算方法。这些算法可以增加最少的发射天线来弥补射频链路数减少带来的性能损失。为了减少反馈信息量，研究了TAS-MRT系统中发射波束形成矢量的量化方法，提出了Lloyd矢量量化算法和Grassmannian子空间包装(GSP)算法。仿真结果显示，与MRT系统相比，TAS-MRT系统受发射波束形成矢量量化的影响较小。TAS-MRT系统使用Lloyd算法的误比特率性能优于GSP算法，这是因为Lloyd算法是根据发射波束形成矢量特性设计的；(4)研究了混合发射天线选择的等增益传输系统(TAS-EGT)。为了减少系统的成本和复杂度，提出了TAS-EGT系统以平均接收信噪比为性能指标的最少发射天线数的计算方法。该算法可以增加最少的发射天线来弥补射频链路数减少带来的性能损失。由于该系统的性能并非完全与射频链路数成正比，提出了基于平均接收信噪比的最优射频链路数的计算方法。这个算法寻找使系统性能最大的射频链路数。提出了TAS-EGT系统在两个射频链路情况下(TAS-EGT2系统)的基于平均接收误比特率的最少发射天线数计算方法。研究了TAS-EGT系统中发射波束形成矢量的量化算法，提出了基于相位扇区化的发射波束形成矢量量化算法。该算法无需穷尽搜索，复杂度低。仿真结果显示该算法采用一定量化比特数时获得的接收误比特率接近相位未量化(理想等增益传输)情况。