宽带DOA估计技术是阵列信号处理中的重要研究内容，在雷达、声纳、无线通信、电子对抗等领域得到了广泛地应用。实际信号环境中小快拍数、多径、低信噪比等情况比较常见，这将直接影响算法的性能。为此，本文针对快拍数较少情况下的信源数估计算法及宽带相干信号DOA估计算法进行了研究，主要工作及研究成果如下：
　　1、研究了基于随机矩阵理论的信源数估计算法。针对采样快拍数较少时信源数估计算法性能下降的问题，给出一种基于随机矩阵理论的改进MDL准则窄带信源数估计算法。该算法首先利用随机矩阵理论得到噪声特征值分布的相关统计量，然后将该统计量与观测数据的概率密度分布相结合，最终得到了更加精准的MDL准则并对算法的性能进行了分析。在上述算法基础上将其与聚焦变换相结合，给出了一种基于随机矩阵理论的宽带相干信号信源数估计算法。仿真实验表明，基于随机矩阵理论的信源数估计算法在采样快拍数相对较少时，不论阵元数多或少均有优良的检测性能，且具有强一致性，算法运算量与经典的MDL方法相当。
　　2、研究了基于空间斜投影的宽带相干信号DOA估计算法。针对存在多组相干信号时，不同组相干信号之间相互影响的问题，提出一种基于空间斜投影的宽带相干信号DOA估计算法。首先利用窄带高分辨测向算法得到DOA的初始估计值，然后利用信号子空间与噪声子空间的正交性估计各组相干信号的衰落系数，接下来利用空间斜投影技术将不同组相干信号分离，得到仅包含单组相干信号的数据矩阵。对该矩阵进行聚焦处理得到聚焦频点处的数据矩阵，最后利用窄带高分辨测向算法得到最终的DOA估计值。仿真实验和实测数据处理结果表明该算法可有效减弱不同组相干信号之间的影响，估计性能优于传统的聚焦算法，特别是在较低信噪比情况下。且对空间色噪声也有一定适用性。
　　3、研究了无需信源数估计的宽带相干信号DOA估计算法。针对信源数估计存在误差时传统的宽带DOA估计算法估计性能出现一定程度下降甚至失效的问题，提出一种无需信源数估计的宽带DOA相干估计算法。算法首先利用TCT聚焦变换将阵列接收的宽带数据转化为窄带数据，然后将DOA估计问题转化为类似波束形成方法的约束最优化问题，最后通过求解最优权矢量得到最终的DOA估计值，同时分析了约束参数的取值范围。仿真实验和实测数据处理结果表明算法尽管估计性能略低于信源数正确估计情况下的TCT算法，但无需信源数估计，有较好的工程适用性。