正交频分复用索引调制(OFDM-IM)作为一种新兴的多载波调制技术,由于它可以通过未激活子载波索引传输额外的信息比特,从而实现了较高的误比特率性能和频谱效率。作为一种高效的通信方式,研究其在非协作通信环境中的自动调制识别(AMC)具有重要意义。在OFDM-IM中,需要识别的参数不仅包括信号星座,还有激活子载波数目,这与仅需要识别调制方式的传统OFDM不同。因此,OFDM-IM的AMC是一个具有挑战性的问题。针对这个问题,本文先研究了基于似然概率的识别方案。在已知信道状态信息(CSI)的场景中,推导了最优的平均似然比检测(ALRT)识别器和混合似然比检测(HLRT)识别器。从贝叶斯角度来看,ALRT实现了最大的正确识别率(PCC),因此是最优的,而HLRT是一种降低复杂度的实现方式。进一步,在HLRT识别器中,提出用能量检测器和对数似然比(LLR)检测器识别激活子载波,消除未知的激活子载波集合变量,从而降低复杂度。具体地,能量检测器利用了OFDM-IM系统发送符号的特点估计激活子载波集合,而LLR检测器根据后验概率(APP)比值估计该集合。接着在未知CSI的场景中,提出基于HLRT的盲AMC,采用期望最大化(EM)算法对信道衰落系数和噪声方差进行了有效的估计。仿真结果证明了上述方案的有效性,并且随着信噪比增加均可达到100%的PCC。最后比较了OFDM-IM系统和OFDM系统的识别结果。为了降低识别器的复杂度,本文进一步研究了基于特征的识别方案。首先计算了不同组合调制参数的四阶累积量,提出了基于四阶累积量的识别方法,对比了已知信道衰落系数和未知时的PCC性能,并且仿真证明了方案的可行性。为进一步提高PCC,研究了基于高阶矩的识别方案,该方案从接收信号中先提取各高阶矩作为特征,由于提取的矩服从正态分布,在不同的假设条件下得到矩的似然函数,从而得出识别的调制参数。通过复杂度和仿真结果的分析可以得出:基于高阶矩的识别方案既有较低的复杂度,又有较高的识别性能,因此是一种有效的识别方法。