空间调制（Spatial Modulation,SM）是一种新型的多输入多输出（Multiple-Input Multiple-Output,MIMO）无线通信技术,其利用传统数字调制符号和天线的索引共同传输信息,从而可以降低射频开销,简化硬件实现结构,具有较低的功耗、信号处理复杂度和较高的系统链路配置灵活性。因此,空间调制技术有望为未来的移动通信系统提供高效、可靠的解决方案而得到广泛的研究与应用。本文以基于空间调制的多天线系统设计为目标,探索了空间调制的误码率性能分析,自适应算法设计,发射符号向量优化等重点问题。本文的研究内容和创新点主要包含以下几个方面:针对传统发射端空间调制系统的射频切换频率过高的问题,本文研究了基于射频偏置的空间调制系统,该系统通过设计信息比特和天线索引间的新型映射方案从而降低射频切换频率。然后以降低系统误码率为设计目标,提出发射天线数为2时的最优功率分配方案;当发射天线数大于2时,以多天线分别求解为基础,逐次优化欧氏距离最小的天线分组,提出基于主要错误向量的低复杂度功率分配方案;本文进一步通过将非凸的多天线功率联合优化问题近似为串行的凸优化问题,提出基于迭代凸近似的功率分配方案。仿真结果表明,上述三种功率分配优化的射频偏置空间调制系统相比传统的系统均有较好的误码率性能增益。本文进一步分析推导了射频偏置空间调制系统在有信道估计误差时的理论误码率性能,仿真结果验证了理论分析的合理性,表明了射频偏置空间调制系统在有信道估计误差时仍能维持相对传统空间调制系统的性能增益。本文还分析推导了在相关信道条件下射频偏置空间调制系统的理论误码率性能,仿真结果证明了理论误码率分析的合理性,表明在相关系数小于0.5时系统性能损失在0.2d B以内,系统性能对于相关系数的变化不敏感。本文对比了基于最小均方误差（Mimimum Mean Squared Error,MMSE）和基于迫零（Zero Forcing,ZF）预编码的接收端空间调制（Receive Spatial Modulation,RSM）系统,推导了MMSE-RSM系统的理论平均误码率,理论分析和数字仿真表明采用MMSE预编码后,RSM系统具有更好的误码率性能。本文针对传统ZF-RSM系统接收天线数量必须为2的幂次的问题,提出基于不定激活的ZF-RSM系统,并对该系统的误码率性能进行了理论分析。仿真结果证明了理论分析的合理性,表明了不定激活ZF-RSM系统的误码率性能优于传统ZF-RSM系统,同时允许接收端配置任意数量的天线。本文针对传统ZF-RSM系统,基于ZF-RSM系统的理论误码率分析,以降低系统误码率为目标,首先提出了一种基于凸优化的最优功率分配方案;然后为了进一步降低复杂度,通过优化接收天线索引误判导致的误码率,提出了次优的低复杂度功率分配方案。数字仿真表明采用所提功率分配方案后能提升系统性能,随着接收天线数增加,次优方案将贴近最优方案的性能。本文分析了有信道估计误差时ZF-RSM系统的理论误码率性能,并以降低系统误码率为目标,提出导频和数据间的最优功率分配方案。仿真结果表明,所提功率分配方案可进一步降低系统误码率。本文深入研究了跨介质中继通信的系统模型,分析了该系统的理论中断概率,并以降低系统中断概率为目标提出了中继功率分配方案,数字仿真表明采用所提功率分配方案后,系统性能获得进一步提升。本文进一步提出了跨介质的空间调制中继传输方案,为了量化分析系统的数据传输能力,推导了该传输方案的理论互信息量,并以最大化互信息量为目标,设计了中继功率分配方案,数字仿真表明,采用所提功率分配方案后可提升系统性能。