可调数字滤波器广泛应用于数字图像处理、语音信号处理、医学信号处理、雷达信号处理等各个领域。可调分数延迟(Variable fractional delay,VFD)有限冲激响应(finite impulse response,FIR)数字滤波器是可调数字滤波器中的一种,其群延迟特性可以在线分数地调整。由于VFD FIR数字滤波器特殊的性质及广泛的应用,其优化设计问题引起了国内外学者的广泛关注与研究。与二维数字滤波器相似,VFD FIR数字滤波器优化设计问题本质上是一个二元函数的逼近问题。VFD FIR数字滤波器的待求设计参数较多,由于二元函数逼近理论的不完备,所以VFD FIR数字滤波器设计问题极其复杂。目前的大多数VFD FIR数字滤波器优化设计方法是基于向量变量的算法,即把所有待求的VFD FIR数字滤波器参数排列成一个向量,然后使用常规的优化算法求解。这种算法导致了计算高复杂性,并且占用了大量计算机内存。虽然当前计算机硬件技术发展很快,但寻找快速且数值稳定的VFD FIR数字滤波器优化设计算法仍然很有现实意义且非常具有挑战性。本文研究了 VFD FIR数字滤波器在最小二乘(Least Squares,LS)指标下的约束优化设计问题,包含幅值误差约束、群延迟误差约束和幅值误差群延迟误差同时约束三种约束条件。首先,论文建立了 VFDFIR数字滤波器优化设计问题在矩阵形式下的数学模型。经过一系列基于矩阵的公式推导,VFD FIR数字滤波器优化设计问题转化为两个待求参数矩阵的求解问题。待求参数矩阵的元素与VFD FIR数字滤波器的单位脉冲响应有着一定的对应关系。然后,论文求解出无约束LS指标下待求参数矩阵的最优解。针对有幅值误差约束条件的VFD FIR数字滤波器优化设计问题,论文提出了 一种高效的基于矩阵的迭代算法进行求解。论文建立了 VFDFIR数字滤波器幅值误差约束最小二乘(Constrained Least Squares,CLS)优化设计问题的基于矩阵变量的数学模型,其中幅值误差约束函数高度非线性。固定部分变量为常量将幅值误差约束函数线性化,而后反复地线性化幅值误差函数,从而VFD FIR数字滤波器幅值误差CLS优化设计问题转化为一系列线性不等式迭代CLS优化设计子问题。针对线性不等式CLS优化设计子问题,本论文提出一种高效的基于矩阵变量的积极集算法并引入拉格朗日函数进行求解。最终,论文所提算法能有效求解误差界固定的VFD FIR数字滤波器幅值误差CLS优化设计问题,将滤波器的幅值误差约束到给定值。同时,分析所提算法的快速性和收敛性。针对有群延迟误差约束条件的VFD FIR数字滤波器优化设计问题,论文提出一种高效的基于矩阵变量的迭代算法进行求解。首先,论文建立了VFD FIR数字滤波器群延迟误差CLS优化设计问题的基于矩阵变量的数学模型,其中群延迟误差约束函数高度非线性非凸。该设计问题是一个非凸优化问题,直接求解需要复杂的非凸优化算法。而后,论文采取固定部分变量为常量再进行多次迭代的基于矩阵变量的方法将群延迟误差约束函数线性化,原设计问题从而被转化为一系列线性不等式迭代CLS优化设计子问题。对于线性不等式CLS优化设计子问题,论文同样采用基于矩阵变量的积极集算法进行求解。最终,论文所提算法能有效求解误差界固定的VFD FIR数字滤波器群延迟误差CLS优化设计问题,将滤波器的群延迟误差约束到给定值。同时,分析所提算法的快速性和收敛性。针对幅值误差和群延迟误差同时约束的VFD FIR数字滤波器优化设计问题,论文提出基于矩阵的算法进行求解。首先用幅值误差约束算法求解,然后把这个解作为初始值,再用群延迟误差约束算法求解,得到优化设计问题的近似最优解。最终,论文所提算法能有效求解误差界固定的VFD FIR数字滤波器幅值误差与群延迟误差CLS优化设计问题,将滤波器的幅值误差和群延迟误差同时约束到近似给定值。通过分别的仿真实验证明,本论文提出的基于矩阵的迭代CLS设计算法,能有效地求解出误差界固定的VFD FIR数字滤波器CLS优化设计问题。论文所提算法比现有算法计算效率更高,并且能够精确地控制滤波器的频率特性,有效减小滤波器的幅值误差和群延迟误差。此基于矩阵的算法可以进一步运用到VFD FIR数字滤波器的其他设计中。