在无线宽带通信系统中通常存在由信道的多径效应引起的码间干扰（ISI）。对抗信道多径效应的一种有效方案则是单载波频域均衡（SC-FDE）。由于分数阶傅里叶变换是普通傅里叶变换的广义形式，而且分数阶傅里叶变换的阶次具有灵活变换性，所以本文主要研究单载波分数阶域均衡，通过选取与信道特征相匹配的阶次达到比单载波频域均衡更好的效果。本文首先介绍了单载波频域均衡技术的发展概况，并对分数阶傅里叶变换在通信系统中应用的研究现状进行了总结归纳，然后详细分析了单载波频域均衡技术的分类和基本原理，并且对单载波分数阶域均衡系统结构及相关基本理论作了介绍。其次，本文研究一种噪声预测判决反馈均衡结构，它与传统判决反馈结构相比，两者虽然在误码率性能上相当，但前者在计算复杂度上得到明显降低。针对以前分数阶域NP-DFE实现过程复杂的问题，本文采用矩阵运算形式直接给出了NP-DFE均衡系数的实现过程，这种实现方法更为简单，避免了以前繁琐的运算过程。另外，考虑到目前无线通信中随机多径衰落效应的影响，本文将分数阶域噪声预测判决反馈均衡结构应用在编码系统中，通过与采用分组交织器的频域均衡仿真对比，结果表明，在编码系统中分数阶域均衡不需要对信号进行额外的处理就可以获得比频域均衡更优的性能。最后，本文研究了一种基于独特字块结构的分数阶域均衡，考虑到分数阶傅里叶变换计算复杂度高的问题，本文利用独特字UW不包含任何有用数据信息性质，将其与有用数据在接收端进行均衡之前进行分开处理，给出了一种计算分数阶域均衡系数的近似方法，使算法运算量得到了降低。