随着无线通信业务的丰富和无线通信用户数的增长,无线频谱资源变得越来越宝贵。以正交频分复用(Orthogonal Frequency Division Multiplexing,OFDM)为代表的多载波系统和以单载波频域均衡(Single-Carrier Frequency Domain Equalization,SC-FDE)为代表的单载波系统被广泛应用于无线通信中。两者都使用了循环前缀(Cyclic Prefix,CP),其中CP的作用有两个:一是避免了由多径传输造成的符号间干扰(Inter-Symbol Interference,ISI),二是使得接收数据具有循环特性,进而可以进行简单的单抽头频域均衡。但是CP的使用占用了大量的频谱资源,如何通过减少CP而提高系统的频带利用率成为了研究的一个热点。本课题的思想是通过不使用CP,或多个符号共用一个CP来提升系统的频谱效率。但只减少CP的使用而不改变原系统结构会恶化系统的误比特率(Bit Error Rate,BER)性能,本文中提出的方法通过改变发送、接收端的处理流程,在BER性能基本不变且运算复杂度只有适度增加的基础上,可以在一定程度上提高系统的频谱效率。本文结合保护间隔技术的发展介绍了CP提出的过程和CP的作用,并对由CP不足给系统带来的不利影响进行了数学分析。分别对符号连发和符号猝发下的混合载波频域均衡(Hybrid Carrier Domain Equalization,HC-FDE)系统进行了传输性能的研究。针对符号猝发情况,首先通过分析HC-FDE系统在CP不足时的信干噪比(Signal to Interference plus Noise Ratio,SINR)得到了系统BER的理论表达式,并对欠CP情况下系统的BER和频谱效率进行了仿真分析。针对符号猝发情况,提出了一种无循环前缀的混合载波猝发传输方法,其BER性能与使用充足CP的HC-FDE相同;由于节省了CP,该方法的频谱效率得到了提升。针对符号连续发送情况,先对欠CP情况下HC-FDE系统的BER性能进行推导。之后,基于混合载波系统提出了两种多符号共用CP的改进技术。两者都在保证BER性能的同时通过多符号共用CP提升了频谱效率。最后对这两种方法的BER、频谱效率和运算复杂度进行了比较,探讨了两者适合的应用场景。