自适应波束形成和高分辨测向是阵列信号处理的两个重要研究方向,在通信、声纳、雷达、无线电、地震探测等应用领域具有重要的军用和民用价值。针对实际应用环境,本文从提高波束形成和高分辨测向方法在小样本环境下的稳健性出发,系统深入地开展了理论与实验研究。主要研究内容包括:1、针对基于线性约束最小均方误差准则的自适应波束形成方法在小样本和通道随机响应误差条件下性能下降问题,提出了迭代子空间跟踪和结构约束的自适应波束形成方法。该方法利用clearing技术在训练样本集上依次跟踪信号子空间来提高传统子空间跟踪方法在小样本条件下的子空间跟踪精度,同时结合权矢量的结构约束形式减少子空间跟踪误差和通道随机幅度/相位响应误差会对权矢量带来的扰动,提高自适应波束形成算法的输出信干噪比。针对小样本下信号子空间维数难以确定和采样协方差矩阵对样本数依赖较大的问题,提出了迭代自适应收缩加权融合的自适应波束形成方法。该方法首先加权融合采样协方差矩阵和先验协方差矩阵,然后依据最小均方误差准则计算采样协方差矩阵与先验协方差矩阵的加权融合系数,并采用迭代自适应的方式在线更新先验协方差矩阵,有效缓解先验知识与当前数据模型失配问题,提高了小样本下协方差矩阵的估计精度,同时避免了子空间维数的确定。2、针对全维自适应波束形成算法运算量巨大和要求满足独立同分布条件的训练样本集规模庞大这一问题,利用多维域的全维阵列数据可分维构造的特点,提出了结合子空间重构和交叉项自适应剔除的权矢量计算方法。该方法首先在训练样本集上估计分维阵列数据的信号子空间;然后基于张量积性质重构全维信号子空间并自适应剔除交叉项;最后采用子空间投影算法计算自适应加权矢量。理论分析和仿真结果表明所提方法具有较低的运算复杂度,能有效提高自适应波束形成算法在小样本条件下的输出信干噪比。对于具体不能分维的阵列,提出了知识辅助的联合迭代优化降秩波束形成方法。该方法通过对降维矩阵与波束形成权矢量进行联合优化来实现自适应降维处理目的,同时结合空间谱重构技术在线更新阵列数据的先验协方差矩阵,并与样本协方差矩阵进行加权融合处理提高小样本下协方差矩阵估计精度。实验仿真表明在对先验协方差矩阵进行在线更新的基础上,通过加权融合处理和联合迭代优化降维矩阵与权矢量能获得更快的收敛速度,同时对信号子空间维数具有稳健性。3、针对小样本下强弱邻近信号的DOA估计问题,提出了加权伪噪声子空间投影的修正MUSIC方法和自适应加权修正的Capon谱估计方法。通过对传统MUSIC算法和Capon谱估计方法进行适当的加权修正,能得到更为尖锐的空间谱估计值,提高了强弱邻近信号DOA估计精度。理论分析和仿真实验表明所提方法在保持子空间方法高分辨的同时改善了对小样本和强弱信号的稳健性,能有效降低对训练样本数的要求和提高强弱邻近信源在低信噪比条件下的可分辨概率。4、针对宽度信号DOA估计的相干信号子空间算法(CSSM)依赖高精度信号子空间估计和预估角的问题,提出了迭代自适应谱重构的宽带信号DOA估计方法。该方法首先将宽带信号通过离散傅立叶变换得到多路窄带信号;然后计算参考子带信号的匹配功率谱,形成参考子带信号的初始数据自相关矩阵;最后对其它子带信号采用顺次迭代的方式重构线性约束最小均方谱(Capon谱),并根据谱峰位置确定波达角估计值。该方法能实现不同子带数据的全维聚焦,避免了小快拍、低信噪比条件下的信号子空间精确估计问题和预估角的问题,显著改善了小快拍、低信噪比下的波达角估计精度。仿真实验验证了所提方法的有效性。