伴随着无线通信技术的飞速发展，无线通信系统所消耗的能量日益增加。此外，相对滞后的电池技术也在一定程度上限制了无线设备的使用时间及使用范围。基于以上两点原因，绿色通信，也即高能效通信，近年来引起了人们的关注。而多天线技术已经在无线通信各个领域中得到广泛应用，但多天线技术本身就进一步提高了系统的能耗与复杂度。因此本文针对多天线系统中的高能效设计问题进行讨论，主要工作如下:　　一、研究了单用户MIMO系统高能效天线数目问题。建立了问题所对应的数学模型后，首先从理论上分析了发送功率及收发天线数目对能效的影响，得到了能效函数是发送功率的拟凹函数，以及能效随发送天线数目或接收天线数目增加呈现先上升后下降至零的结论，并在此理论分析基础上，提出了一种复杂度较低的收发天线数目与发送功率的联合优化算法。仿真结果表明了理论分析的正确性以及所提出联合优化算法的有效性。　　二、针对单用户MIMO系统高能效开环与闭环传输设计问题进行讨论。在开环MIMO传输系统中，研究了导频与数据间的功率分配问题，首先将问题转化为一个功率优化问题，并提出了相应的迭代算法，在此基础上，还研究了能效函数的Jensen上界函数优化问题，并提出了相应的迭代算法。在闭环MIMO传输系统中，考虑了信道估计和反馈带来的信道误差，将问题建模为一个最大化最小能效的鲁棒性问题，分别优化不同场景下输入信号自相关矩阵以及导频信号功率，并给出了相应的迭代算法。通过仿真结果发现，所提出算法可有效提高MIMO系统开环与闭环传输的能效。　　三、以能效作为优化目标，在保证用户QoS的情况下，讨论了一般场景以及采用迫零波束赋形时的最优线性预编码问题。建立相应的优化问题后，首先分析了问题的可解性。之后对于一般场景，根据接收均方误差与传输速率间的关系对问题进行转化，利用分式规划的性质提出最优线性预编码的迭代算法，并利用凸优化方法对迭代算法中的子问题进行分析。而对于迫零波束赋形场景，则将问题转化为不同用户间的功率分配问题，利用分式规划中的方法进行求解。仿真结果表明，本文提出的算法收敛性好，并且可以在保证用户QoS的情况下有效提高系统的能效。　　四、对多用户MIMO多播系统高能效线性预编码设计问题进行讨论，主要分析了高能效预编码与天线选择的联合优化。之前的多播预编码的主要优化目标为最大化最小SNR，但该问题无法得到最优解并且复杂度较高，本文提出通过最大化加权和速率来获得多播预编码，得到了一些特殊场景下的解析表达式，并给出了一种基于梯度下降法的迭代算法。而由于不同的激活天线数会影响系统能效，因此提出了一种复杂度较低的天线选择算法。最后通过仿真对所提出的算法进行了验证，相比之前的方案，本文提出的方案可以有效提高多天线多播系统的能效。　　五、分析了有限协作下的高能效CoMP系统功率分配问题。首先研究了最大化平均能效的CoMP系统功率分配问题，将其建模为一个非合作博弈问题，在原有能效作为效用函数的基础上引入了代价函数，证明了此时纳什均衡的存在性与唯一性，并提出一种复杂度较低的代价函数更新方法。接下来分析了最大化最小加权能效的CoMP系统功率分配问题，提出了一种基于有限协作的分布式功率优化算法。仿真结果证明了所提出算法的收敛性。同之前的方案相比，本文提出方案可以在有限协作的条件下提升系统的能效与公平性。