空间调制(SM)作为一种新型的多天线技术,具有能效高、可消除信道间干扰、避免发射天线同步等优点。本文对该技术的性能及应用展开了研究。针对空间调制系统发射天线的选择进行研究。首先,提出了一种更简便的计算奇异值的方法,并将其应用在已有的发射天线选择算法中,从而达到降低计算复杂度的目的。其次,提出了最小距离追溯(MDA)搜索算法用以更快的找到最优天线组合,其中该算法的初值是通过贪婪搜索算法得到的。这种组合的搜索算法能够降低搜索复杂度。针对空间调制在多用户MIMO(MU-MIMO)下行链路上的应用进行研究。在广播通信的场景中,提出了将预编码空间调制技术(PSM)与矢量扰动的块对角化相结合,从而实现基站到多用户的无干扰通信,通过仿真研究了该方案适用的场景。除此之外,还研究了基于一种特殊的空间调制——空间频移键控(SSK)的机会通信,提出了基于欧氏距离准则的用户调度和天线选择算法,并与传统的MIMO天线选择方案进行了误码性能以及互信息的对比,证实了所提出的系统方案的有效性。针对空间调制(SM)在非对称双向中继信道(TWRC)中的应用进行研究。利用SM对天线索引比特和星座符号比特的不等错误保护性质,分别对两个源节点间存在以及不存在直连链路的场景设计了基于空间调制的非对称双向中继方案,并分析了在独立同分布的瑞利衰落信道下两个方案的误比特(BER)性能。