矢量水听器技术是水声技术学科的一个标志性进步，受到了各海洋大国的普遍关注，也是我国水声技术领域最具发展前景的方向之一。稀疏分解理论为信号提供了简洁、灵活和自适应的表示方法，可以从本质上降低信号处理成本，提高压缩效率。压缩传感理论是在盲源分离和稀疏分解理论基础上提出的一种全新的信息获取指导理论，打破了传统采样定理的限制，是现代信息理论的一个重大变革。本文对稀疏分解理论和压缩传感理论在水声信号处理中的应用进行了比较系统的研究，主要研究内容和创新点如下：1.矢量水听器阵列的DOA估计研究根据目标方位在其角度搜索空间的稀疏性，采用声矢量阵方向向量的形式建立原子库，构造出相应的稀疏向量，进而建立基于稀疏分解理论的声矢量阵DOA估计模型。分别采用单快拍算法和多快拍算法，实现小快拍数、低信噪比情况下的声矢量阵DOA高分辨估计。通过对湖试数据的处理，对算法性能进行了分析和验证，并与传统波束形成、基于四阶累积量的波束形成、MVDR、MUSIC等算法进行了对比，验证了基于稀疏分解理论的声矢量阵DOA估计算法在小快拍数和低信噪比情况下的优良性能，适合用于动目标的DOA估计。根据压缩传感理论，通过投影测量矩阵实现对声矢量阵接收数据的维数压缩，从而极大降低后续处理的计算成本。通过压缩传感理论的维数压缩，可以使得MVDR等算法用于快拍数小于阵元数的情况。2.频率估计研究基于信号频率在频率搜索空间的稀疏性，分别根据信号形式、时域流型、时间窗模型建立基于稀疏分解理论的频率估计模型。通过仿真和矢量水听器湖试数据的处理，对算法的性能进行了详细的分析，并与周期图法和MUSIC算法进行了对比。结果表明，在小样本和低信噪比、特别是小样本情况下，算法具有明显优势。通过压缩传感理论，能够以极大的比例对采样数据进行维数压缩，降低后续处理的计算成本。3.基于单矢量水听器的频率—方位联合估计研究通过对矢量水听器接收信号的分析，构造单矢量水听器的时空阵列流型，提出了基于稀疏分解理论的单矢量水听器频率—方位联合估计算法，实现了单矢量水听器对多个目标的频率、方位同时估计。通过仿真，分析了目标数、信噪比、接收快拍数对算法性能的影响。4.原子库构造方法的优化采用稀疏分解理论对多个参数同时估计，需要在高维空间上进行搜索，存在原子库过大的问题。分别采用变步长法和原子库动态构造法，避免了对绝大多数无用点的搜索，极大地降低了算法的计算量，有效提高了估计结果的精度。