阵列信号处理在雷达、声呐、地震学、语音识别、射电天文学以及无线通信等领域均有着广泛的应用。与常用的满足空间奈奎斯特采样定理的均匀线性阵列相比,近年来提出的互质阵列作为一种特殊的稀疏阵列,兼备了稀疏感知的优势和质数的独特性质,能够在使用相同个数物理阵元的前提下获得更大的阵列孔径和更高的自由度。换而言之,互质阵列的应用使得在相同的性能需求下,使用更少的物理阵元及相应更低的硬件成本成为可能。本文在综述国内外关于互质阵列信号处理技术最新研究进展的基础上,以互质阵列为研究对象,着重研究了波达方向估计和波束成形这两个阵列信号处理领域的基本问题,并提出了具有高效性和鲁棒性的算法。本文的主要工作如下:1.提出了一种基于虚拟阵列协方差矩阵稀疏重建的互质阵列波达方向估计算法。该算法利用入射信号个数相对于整个空间域所表现出的稀疏特性,将增广虚拟阵列所对应的二阶等价虚拟信号通过一组过完备基进行表示。在此基础上,基于虚拟域协方差矩阵稀疏重建的思想,设计了在稀疏性约束条件下的协方差矩阵拟合误差最小化优化问题,以构建最优稀疏空间功率谱。该算法能够在提升自由度的前提下,同时对信号的波达方向、功率以及信号源个数实现准确估计。2.提出了 一种基于压缩感知的互质阵列波达方向估计算法。该算法考虑了算法设计与实现的高效性问题,通过引入压缩感知核对互质阵列接收信号进行随机投影,在压缩的同时保留了原始接收信号中所包含的核心信息。基于压缩后的降维信号,通过空间功率谱的计算和虚拟域信号的稀疏重建,分别实现了高分辨率和自由度增强型的波达方向估计。该算法在保证互质阵列信号处理核心优势的同时,大幅降低了计算复杂度。3.提出了 一种基于内插虚拟阵列协方差矩阵无网格化重建的互质阵列波达方向估计算法。该算法针对由互质阵列推导而来的非均匀虚拟阵列所导致的信息损失问题,将阵列内插的思想引入到虚拟域以构造一个虚拟均匀线性阵列。与此同时,利用原子范数对虚拟域信号中所包含的波达方向进行连续化参数表示,并根据所定义的多采样虚拟信号原子范数的性质,设计了一个基于原子范数最小化的虚拟域矩阵结构化重建优化问题,实现了内插虚拟阵列协方差矩阵的无网格化重建,有效地避免了预定义过完备空间网格点对波达方向估计性能的限制。该算法能够在充分利用非均匀虚拟阵列所包含全部信号信息的同时,有效提升波达方向估计的精确度。4.构建了互质阵列波束成形的理论框架,并提出了 一种基于协方差矩阵和导引向量重建的互质阵列自适应波束成形算法。面向算法设计及应用的高效性和鲁棒性需求,通过分析波束成形的运作机理,揭示了互质阵列信号处理框架下波束成形问题与波达方向估计问题的本质区别。设计了一种基于干扰加噪声协方差矩阵和期望信号导引向量重建的互质阵列自适应波束成形算法,其中用于参量重建的核心参数分别通过基于分解互质稀疏子阵的波达方向估计方法和基于互质稀疏子阵协方差矩阵联合优化的功率估计方法获得。该算法一方面充分利用了互质阵列的特性实现了高效且精确的参数估计,另一方面基于参量重建的思想有效地避免了信号自相消现象以及信号模型失配问题,在高效性和鲁棒性方面展现出了较大的优势。