多载波传输技术是解决未来移动通信高速率、高频谱效率需求的关键性技术之一,为满足时代对未来移动通信技术不断提出的新要求,需要进一步提高多载波传输技术的频谱效率及误码率性能。随着对多载波技术要求的不断提高,正交频分复用(OFDM)技术由于其峰值平均功率(PAPR)较高、带外辐射(OOB)较大等缺点,其应用在未来通信中具有一定局限性。因而,新型多载波波形成为了近年来的研究热点。为提高频谱效率,本文研究了新型多载波传输技术。在广义频分复用(GFDM)多载波传输技术的基础上引入索引调制(IM),形成了一种新的多载波传输技术——实部虚部索引广义频分复用(GFDM-RIIM)技术。该方案保留了GFDM原有的块状结构传输以及在每个子载波上进行单独滤波的特点,因而新方案在系统设计上仍具有很高的灵活性,同时也可以降低PAPR并有效控制带外泄露。GFDM-RIIM在保留了原有技术优势的同时引入索引调制,并进一步将其分为实部索引和虚部索引两部分进行,有效提高了频谱效率及误比特率性能。另外,本文还在GFDM基础上引入了混叠系数的概念,提出了一种名为混叠广义频分复用(O-GFDM)的新型多载波调制方案。研究结果表明,该方案可以根据应用场景的要求,在系统频谱效率与误比特率之间进行灵活地权衡,以应对未来移动通信中多样化应用场景的不同要求。