近年来,随着信号处理理论的快速发展,人们对未知系统辨识的需求越来越强烈,系统辨识已成为目前研究的重点和热点。虽然国内外的学者已经提出很多系统辨识的算法,但目前仍存在很多问题需要解决或有待深入研究。首先,实际系统辨识应用中有诸多未知系统具有先验的稀疏特性。例如:高清数字电视传输信道,水声通信信道,回声系统等。但是,传统的自适应系统辨识算法不能利用系统的固有稀疏特性,导致算法的性能降低。第二,传统的自适应系统辨识算法大多基于均方误差准则,且该准则下的假设条件是背景环境为高斯噪声环境,未能考虑非高斯的脉冲噪声环境。针对以上问题,本文的主要工作如下:（1）高斯环境下,针对网络回声系统以及卫星通信系统脉冲响应的块稀疏特性,通过在比例归一化最小均方（PNLMS）算法中引入混合l_2,0范数约束,以充分利用块稀疏特性,提出了一种基于混合l_2,0范数的块稀疏比例归一化最小均方（L20-PNLMS）算法。为了进一步提高所提出算法的性能,开发了一种改进比例归一化最小均方算法,构建了l_2,0范数约束的改进型PNLMS（L20-IPNLMS）算法。并在混合高斯噪声环境的情况下,将混合l_2,i范数约束引入最小混合范数算法,提出了块稀疏比例混合误差准则（BPNLMMN）算法。采用仿真对比实验分析的方法,验证了所设计的L20-PNLMS,L20-IPNLMS以及BPNLMMN算法对块稀疏系统的辨识性能和优越性。（2）脉冲噪声环境下,基于最大相关熵准则,采用基追踪法,利用混合l_2,1范数对自适应滤波器的权系数向量进行约束（其中l₂范数的作用是将自适应滤波器的权系数分块更新,l₁范数的作用是探寻系统的稀疏性）,提出了混合范数约束比例归一化最大相关熵（HNC-PNMCC）算法。通过仿真对比和分析的方法,在模拟的混合伯努利分布的脉冲噪声环境中,验证了所提出的HNC-PNMCC算法对块稀疏系统的辨识性能。（3）针对强相关信号输入下传统自适应系统辨识算法收敛速度下降问题以及在脉冲噪声下性能恶化问题,提出了基于最大相关熵准则的仿射投影算法（APMCC）算法,有效白化输入信号,提高算法的收敛速度;并将增益分配矩阵引入的APMCC算法,实现了基于最大相关熵准则的比例仿射投影（PAPMCC）算法;将混合范数约束权系数向量引入APMCC算法,实现了鲁棒块稀疏比例仿射投影（RGS-PAP）算法;为了提高算法的灵活性并有效利用系统固有稀疏特性,将l_p范数约束与变核宽技术引入APMCC算法,提出了l_p范数约束的变核宽比例仿射投影（LP-VPAP）算法。采用仿真实验对比分析的方法,验证了所提的PAPMCC,RGS-PAP以及LP-VPAP算法对稀疏系统辨识的优越性。