MIMO技术虽然有着高频谱效率和高可靠性的优势,但也存在着信道间干扰(ICI)、多天线同步(IAS)难、接收机检测复杂度高和多射频(RF)链路带来高成本开销等问题。空间调制(SM)技术的出现解决了上述难题,但其频谱效率和误比特性能仍然有待提高。正交空间调制(QSM)技术不仅能够提高SM技术的频谱效率,而且还可以避免ICI、降低IAS的要求、降低接收机检测复杂度、减少链路成本。本文着重针对QSM系统的检测算法进行研究,主要研究内容如下:1.针对传统的线性检测算法迫零(ZF)检测和最小均方误差(MMSE)检测应用到QSM系统中,虽然简单易实现且复杂度低,但算法的误比特性能较差的问题,本文在ZF检测算法的基础上,引入迭代的思想,研究一种基于ZF的增强型迫零检测算法。蒙特卡罗仿真结果表明,该检测方案较传统的ZF检测方案不仅误比特性能有明显的提高,而且计算复杂度仍远低于最大似然(ML)最优检测方案,仅仅比ZF检测算法略高。2.针对QSM系统中现存的检测算法虽然都能适用于MPSK信号,但还没有专门基于MPSK信号星座图特性的算法被研究。本文基于MPSK信号星座图的特点,采用ML量化解调的思想,先检测调制符号,后检测激活天线组合,研究一种针对MPSK信号的改进型最大似然检测方案。蒙特卡罗仿真结果表明,研究的改进型最大似然检测方案不仅误比特性能较好,而且计算复杂度较ML检测算法有明显的降低;此外,其计算复杂度与调制阶数无关,且阶数越高,其相对于ML检测方案在低复杂度方面的优势越突出。