索引调制正交频分复用(Orthogonal Frequency Division Multiplexing with Index Modulation,OFDM-IM)传输技术近年来备受关注。它相较于传统多载波系统具有更好的误码率性能、更低的峰均比以及更强的抗频偏性能,使其成为未来无线传输系统研究的热点技术之一。本文基于OFDM-IM的系统结构,提出了新的误码率分析方法,并研究了OFDM-IM在频偏以及导频叠加条件下的传输性能,此外还提出了一种基于最优匹配的子载波分配和基于机器学习的自适应调制算法。具体工作可以总结如下:首先介绍了OFDM-IM系统的研究现状,指出了现阶段研究的不足,明确了本文的研究方向,并依据索引调制OFDM系统传输模型,主要介绍了两种经典的理论误码率分析方法。依据最近邻界思想,提出一种更紧的OFDM-IM误码率分析方法;然后对频偏条件下的OFDM-IM系统进行建模,通过分段式界理论,分析了任意分块下频偏对于OFDM-IM误码率的影响;最后,考虑频域、空域和时域三个维度索引调制的多载波系统模型,给出了理想条件下误码率并集界结果,并通过仿真验证了结果的正确性。在实际应用中,接收端得到的信道信息往往存在误差。因此本文进一步分析了基于导频叠加的OFDM-IM系统的误码率。这里首先介绍了基于导频叠加的OFDM-IM系统模型;其次,分析了信道估计误差条件下OFDM-IM系统误码率的理论表达式,具体工作分为三部分:首先,理论分析了接收信号在能量判决和最大似然判决下的导频位置判错概率;其次,基于导频位置判错概率,分析了几种信道估计方法的估计误差;最后,根据信道估计误差,理论分析了存在信道估计噪声情况下的误码率,并通过仿真验证了理论推导的正确性。其次研究了OFDM-IM的自适应子载波分配和自适应调制算法。其中自适应子载波分配算法主要基于OFDM-IM误码率的理论表达式,以各子载波为点集,最小欧氏距离为权重,建立了带权二分图,并通过最优匹配算法完成对OFDM-IM的子载波分配。此外,研究了信号传输的自编码器网络理论,利用该理论实现了OFDM-IM信号建模,并利用多层感知器网络提出了OFDM-IM的自适应调制新算法。最后总结本文在OFDM-IM研究中的贡献,分析了研究中的缺陷,探讨了未来的研究方向。