为了满足未来移动发展需求,无线通信系统一直在追求更高的数据传输速率,研究的关键挑战是找到具有潜力的多天线传输技术。针对现有多输入多输出系统(MIMO)发射天线间的同步与信道间干扰等问题,提出了空间调制技术(SM)。为了实现更优的多天线传输,本文对空间调制技术进行了较为深入地研究,主要工作如下：第一,详细分析了空间调制传统的检测算法,包括最大似然检测以及分块排序最小均方误差(OB-MMSE)检测算法。现有的最大似然检测算法,由于其计算复杂度极高,严重限制了其在实际中的应用,而计算复杂度较低的分块排序最小均方误差(OB-MMSE)算法在高维发射天线检测性能较差。针对上面算法的不足,本文在OB-MMSE算法的基础上提出了两种新的算法。一种是空间调制系统格约减辅助检测算法(LR-OB-MMSE),该算法解决了OB-MMSE算法在高维度发射天线情况下性能较差和传统最大似然检测算法复杂度高的问题。另一种是在OB-MMSE基础上的一种高效计算集中最大似然检测算法,即CECML-OB-MMSE算法。该算法避免了冗余计算,使计算提前终止,降低了计算复杂度,而且检测性能没有明显下降。以上两种改进方案都是运用不同算法进行了联合检测,能在复杂度和检测性能之间取得良好折中。第二,对改进的算法进行仿真研究。首先,对SM系统收发天线数目、检测算法,及调制方式等参数不同的条件下进行仿真,通过误比特率和浮点数曲线分析其性能和计算复杂度。其次,在性能和复杂度方面对改进的方案与传统检测算法进行对比分析。通过仿真验证本文提出的新的算法合理性与可靠性：LR-OB-MMSE算法在高维发射天线情况下有效地降低了误码率,其检测性能优于OB-MMSE算法并且趋于最大似然检测,同时具有较低的复杂度；CECML算法在较高信噪比情况下性能没有明显变化,但其复杂度降低了超过50%。