波达方向角(Direction of Arrival,DOA)估计是阵列信号处理的一个重要研究方向,在语音、通信、雷达、声呐等领域具有广泛应用。如何在阵元个数较少的情况下估计出更多信源的波达方向角是DOA估计中的一个重要问题,也称为欠定情况下的DOA估计问题。而利用Khatri-Rao(KR)子空间构造虚拟阵列是解决该问题的一种有效解决方案。本文从基本的KR子空间方法出发,研究了一系列利用虚拟阵列进行DOA估计的方法,并就如何提高阵列自由度(Degree of Freedom,DOF)、如何提高基于KR子空间的DOA估计方法的性能等问题,提出了改进的算法。本文主要工作如下:首先研究了空间谱估计的理论基础。对阵列信号的数学模型、阵列几何分布模型、以及子空间DOA估计的基本原理进行了推导分析;接着从窄带阵列信号与宽带阵列信号两个方向出发,研究了基于均匀线性阵列的KR子空间DOA估计问题。介绍了KR积的定义,研究了基本的KR子空间算法以及消除噪声协方差、降低运算维度的方法,并研究了宽带阵列信号的KR子空间算法;本文还重点研究了非均匀线阵的KR子空间DOA估计问题。以二阶嵌套阵为例,详细地研究了非均匀线阵中利用空间平滑技术的DOA估计方法,并通过仿真实验,验证了嵌套阵以及其余几种非均匀线阵的KR子空间DOA估计方法;本文从三个方面对基于KR子空间的DOA估计新方法进行了探索,并通过实验对所提出的新方法进行了仿真验证和性能分析,具体包括:1)本文基于均匀线性阵列和嵌套阵列提出了实数化KR子空间方法,与复数域的KR方法相比,此方法的运算量在子空间分解以及谱峰搜索方面都有所降低。通过设计一个特殊的转换矩阵,在将数据从复数域转换到实数域的同时,消除了噪声的影响。2)为了进一步提升自由度,本文提出了一种新的嵌套阵列几何结构。基于新几何结构嵌套阵的实数化KR子空间方法可以估计更多的信源波达角并且降低运算量。3)考虑到准平稳信号局部序列功率谱平稳的特点,本文对局部协方差矩阵进行匹配,提出了一种将整体MUSIC空间谱与局部匹配谱结合起来的新想法。该方法能够克服原来KR子空间方法需要大量快拍数的缺陷。