随着移动用户对数据率、可靠性和可扩展性等高质量传输具有越来越高的要求，大规模MIMO（MassiveMultiple-Input Multiple-Output，Massive MIMO）技术作为5G（TheFifthGeneration）移动通信网络中解决频谱资源不足问题的关键技术，面临信道间干扰严重、检测复杂度高和系统功耗大等问题。空间调制（Spatial Modulation,SM）和空移键控（Spatial Shift Keying，SSK）作为新型多天线技术，有效避免了上述问题，在未来移动通信领域有非常大的应用潜力。
　　本文以空移键控调制为重点研究对象，分别从发射端调制和接收端解调出发，研究新型可扩展空移键控调制方法和高可靠低复杂度的检测算法，提出一种新型高可靠可扩展的广义空移键控通信系统。
　　首先针对现有广义空移键控技术（Generalized SSK,GSSK）在频谱效率、可靠性和可扩展性方面无法权衡的问题，提出一种新型基于Butson Hadamard矩阵的广义空移键控（Butson Hadamard matrix-aided generalized Space Shift Keying,BHSSK）调制技术。该调制技术原理为，一部分比特信息用于选择发射天线组合，另一部分比特信息用于选择发射符号向量。对于第一部分，其映射原理为将比特信息转化为十进制数再进行天线组合选择。对于第二部分，设计要点主要有三方面，第一，引入具有正交可扩展性的Butson Hadamard矩阵构造符号选择矩阵，降低符号间干扰的同时保证了天线配置的可扩展性；第二，采用循环加权的方法设计符号选择矩阵，提升频谱效率；第三，对比特信息和符号向量映射部分，采用使得符号间Lee距离最大的准则进行映射设计，进一步降低符号间干扰。此外，对BHSSK调制系统频谱效率和误码率的理论分析也验证了BHSSK可以通过调整发射天线数目达到可靠性和频谱效率之间的折衷。
　　其次针对现有广义空移键控系统中常用检测算法在误码率和复杂度之间的矛盾，本文在对接收信号向量检测分析的基础上，提出一种应用于BHSSK多激活天线系统的基于空间方向夹角权重排序检测算法（SpaceDirectionangle-basedWeightedOrdering Detection,DWOD）。该算法主要分成天线组合搜索空间构造和信号向量检测两部分，首先，计算所有信道向量与接收向量之间的空间方向夹角，并对各天线组合对应的夹角进行权重设计，然后排序构造出候选天线组合搜索空间，提升搜索效率；其次，将符号向量和排序得到的激活天线组合依次带入最大似然（MaximumLikelihood,ML）联合搜索公式进行遍历计算，同时设置搜索收敛阈值来减少搜索次数，在保证可靠性的同时降低算法复杂度。此外，对DWOD算法的复杂度分析也给出了其复杂度降低的理论依据。
　　为了验证BHSSK调制系统在不同信道场景下的性能，本文分析了瑞利信道、莱斯信道和空间相关信道三种信道模型，并利用Matlab Monte Carlo仿真方法对其分别进行性能仿真。首先，对BHSSK调制技术进行误码率（BitError Rate,BER）仿真得到，在三种信道条件和相同传输数据率下，BHSSK调制均具有比其他现有广义空间调制技术更好的误码率性能，说明了BHSSK调制的高可靠性和可扩展性。其次，对DWOD检测算法在不同信道条件下进行误码率和复杂度仿真得到，DWOD算法在达到近似最优误码率性能的同时，仍然保持相比于ML算法40%-70%的复杂度减少率，达到可靠性和复杂度的优化平衡。
　　由此，本文所提的BHSSK调制系统可以实现频谱效率、可靠性、可扩展性和检测复杂度上的优化平衡，为未来无线通信多天线技术提供了一种更好的选择。