在现代阵列信号处理领域,波达方向(Direction Of Arrival,DOA)估计一直是阵列信号处理的一个重要研究方向。传统的DOA估计技术一般是在均匀阵列的基础上进行研究,这样往往会因为阵元数目有限而对信噪比、快拍数等参数有较高的要求,而且均匀线性阵列要满足奈奎斯特采样定律,限制了其在实际中的应用。近年来出现的互质阵列作为一种特殊的稀疏阵列,能够在相同个数物理阵元的前提下获得更大的阵列孔径和自由度。因此,本文基于互质阵列对DOA估计技术进行了研究。论文的研究主要工作如下:1.介绍了互质采样理论基础和互质阵列信号处理的基本原理。深入分析互质阵列信号模型,揭示了其虚拟域信号处理实现自由度性能提升的原理。研究了一种无需空间平滑的互质阵列DOA估计算法,通过构造一个新矩阵代替空间平滑的协方差矩阵来进行DOA估计,并通过实验仿真验证了无需空间平滑算法的有效性。2.针对互质阵列阵元位置优化问题,分析了两种基于二阶虚拟域的互质阵优化布阵方法;然后基于四阶差集数组概念,分析一种新的四阶虚拟域稀疏互质阵列的扩展结构,可以发现其有效提升了虚拟阵列的自由度。针对传统方法对偏离网格目标DOA估计存在误差的问题,在四阶虚拟域的阵元构造基础上提出了一种偏离网格目标的DOA估计算法,采用交替下降方法在两个变量之间交替下降求得最优稀疏解,从而实现了四阶虚拟阵列的偏离网格目标的DOA估计。3.针对传统远场互质阵DOA估计方法在近场条件下参数估计性能下降的问题,利用四阶累积量和稀疏重构算法提出了基于近场移位互质阵列的近场参数估计算法。首先通过四阶累积量将二维参数估计问题转化为一维参数估计问题,并使用稀疏重构算法进行DOA估计,避免了空间平滑造成孔径损失,有效参数估计的精度和自由度降低了对快拍数的要求。