随着网络的迅猛发展,语音数据通过网络传输成为现实,廉价的IP电话向传统电话发起挑战。然而,IP电话由于压缩、加密等处理的延时和网络传输延时导致回声路径变长,使语音通信质量明显下降,必须在VoIP终端上必须增加回声消除技术。主要是通过自适应滤波器来模拟跟踪回声路径进而将回声估计出来,从近端信号中将回声减去以达到消除回声的目的。自适应滤波器跟踪回声路径的过程就是自适应滤波器系数更新的过程。最小均方误差算法是自适应滤波中最基本的算法,主要是基于最小均方误差准则,使滤波器的输出信号与期望输出信号之间的均方误差最小。本文正是以此为出发点,做的研究工作的具体内容如下。首先,在论述了VoIP关键技术的基础上,介绍了自适应滤波器的概念、自适应滤波算法的基本要素及算法选择的依据。其次,介绍了最小均方误差算法的基本原理,对最小均方误差算法和SVSLMS算法进行了性能分析,针对算法中存在步长选取影响收敛速度与稳态误差这一矛盾,提出了一种新的变步长LMS算法。然后,分析了基于分数阶Fourier变换的LMS自适应滤波算法,将此算法和变步长BLMS自适应滤波算法相结合,实现了基于分数阶Fourier变换的变步长BLMS自适应滤波算法。最后,用仿真工具MATLAB对本文提出的算法进行了仿真实验和性能分析。仿真实验证实基于反正切函数的LMS算法具有更快的收敛速度,更小的稳态误差。证实了基于分数阶Fourier变换的变步长BLMS算法在收敛性能上得到了改善。