新一代移动通信技术不仅要满足用户对移动通信技术的超高数据传输速率的需求,而且要追求技术实现的绿色低碳能耗。MIMO(Multiple-input Multiple-output)技术凭借其多天线技术能充分利用频率资源,但是MIMO技术存在能源效率较低、信道干扰、译码复杂度高等不足。空间调制技术不仅能有效地改善传统MIMO技术存在的问题,而且能促进下一代移动通信技术的绿色低碳目标的实现。本文立足于新一代移动通信技术的需求,同时改善MIMO技术,深入研究空间调制技术的原理和检测算法,以及在新一代移动通信系统中的应用,本文的主要研究工作主要包括:本文首先对无线信道模型、传统的MIMO技术和空间调制的基本理论进行了研析,总结了空间调制技术的优劣。通过对传统的空间调制技术和广义空间调制技术的理论探索,分别研究了两种系统的调制技术与系统方案,并通过仿真对各系统的性能进行了分析与比较。其次,本文研究了一种适用于空间调制系统的低复杂度的宽度优先最大似然检测算法,仿真分析发现,采用理想M值的最大似然检测算法在不对通信系统的误码率造成较大影响的情况下,能大幅度地降低算法复杂度。针对宽度优先最大似然检测算法进行改进,提出了基于接收天线噪声功率排序的优化算法,仿真结果验证了改进算法能进一步降低检测算法复杂度。最后,本文研究了基于空间调制技术的的协作通信技术,空间调制技术在协作通信系统的应用,基于划分的天线簇进行空间调制,实现分集增益提升数据传输速率。针对空间调制技术应用于协作通信存在的问题,本章最后在协作中继处引入无线传感器网络中分簇结构的理念对其进行改进,通过仿真验证了基于空间调制技术的协作通信的改进模型与理想通信模型的性能相近。通过本课题的研究,空间调制技术得到了进一步地完善与推广。