多输入多输出的MIMO(Multiple Input Multiple Output)通信技术因其可以提供较高的吞吐率和频谱效率而成为无线通信系统的关键技术；但MIMO系统在处理广泛存在的信道间干扰(Inter Channels Interference, ICI)而进一步提升频谱效率上又显得力不从心。MIMO空间调制技术的出现为避免MIMO系统中的ICI而显著提升频谱效率提供了新思路,它在每个发送时隙只有一个发送天线被激活,且额外地利用发射天线的位置来携带信息。目前有关MIMO空间调制的研究包括发射端符号映射前比特流的交织编码、接收端的信号检测,以及针对大规模MIMO系统的空间调制设计等。在现有研究中,对映射前比特流的交织并没有考虑空间调制天线序号和星座符号分别映射的特点；对接收端最大比合并类检测的研究也没有考虑噪声放大的影响；而在基站端配置大量天线且每个用户都采用空间调制发送的大规模MIMO系统上行链路中,也并没有采用低复杂度的球形解码检测。本文基于以上考虑,研究了大规模MIMO通信系统中的广义增强型空间调制技术,主要工作如下：1.研究了MIMO通信系统中空间调制的各种增强型技术。首先调研了空间调制系统的模型,然后对独立信道中的最大比合并(Maximal Ratio Combining, MRC)检测算法进行了研究,进而在此模型的基础上分别对空间调制系统的发射端和接收端的具有代表性的增强型技术进行了研究。对于发射端,分别研究了对空间调制映射前的信息比特进行纠错编码的方案和空间调制与空时分组编码相结合的方案等。对于接收端,分别研究了适用于一般信道条件的列范数归一化MRC(NMRC)检测算法和最大似然检测算法等。2.提出了MIMO-OFDM系统中基于双重交织的空间调制技术,仿真验证了所提交织方案的系统BER性能显著优于传统未交织的空间调制系统。首先给出了MIMO-OFDM空间调制的收发系统的模型,以及在MIMO-OFDM系统中,如何运用基于双重交织的空间调制技术。然后重点介绍在上述系统中如何实现基于双重交织的空间调制技术,并对所提的根据空间调制映射的特点进行双重交织的方案给出了详尽的解释和说明。最后给出了性能对比的仿真结果,同时说明了所提双重交织的方案相对于传统未交织的空间调制系统的优越性。3.提出了空间调制系统中接收端基于角度检测加最小均方误差(Minimum Mean-Squared Error, MMSE)符号均衡的检测算法,可适用于一般的信道条件,并仿真验证了所提检测算法的系统BER性能优于lJMRC检测算法的BER性能。首先指出了现有的MRC和NMRC检测算法各自的优势和不足之处,并对基于角度检测加MMSE符号均衡的检测算法进行了详细的分析；进一步,在上述算法的基础上,提出了基于条件修正的角度检测加MMSE均衡的检测算法。最后给出了这两种检测算法的性能仿真结果,通过仿真结果可以清楚地看出所提检测算法相较于NMRC检测算法是有明显的性能优势的。4.提出了大规模多用户MIMO空间调制系统中低复杂度的球形解码检测算法,采用所提算法的系统在显著降低检测复杂度的前提下,可以达到与最大似然检测算法相近的系统BER性能。首先介绍了空间调制技术应用于大规模MIMO的两种系统模型,即单用户模式下基站端配置大量天线单元的下行链路通信模型,与多个用户都采用空间调制发送模式而基站端配置大量天线的上行链路通信模型。然后针对这两种模型研究了当前大规模MIMO系统中基于球形解码的检测算法。进而提出了适用于多用户均采用空间调制发送的大规模MIMO系统的低复杂度球形解码检测算法,给出了算法的实现过程,进而呈现了所提算法与ML检测算法的仿真对比结果,由它们的性能对比结果可以得出所提的大规模MU-MIMO空间调制系统中的低复杂度球形解码检测算法可以在明显降低检测复杂度的条件下达到与ML检测算法相近的性能的结论。