DOA估计是阵列信号处理的一个研究热点，在雷达、通信、声纳等领域有着广泛应用。最经典的DOA方法是Schmit在1979年提出的MUSIC算法，在模型准确的条件下，该算法能精确地估计空间上互不相关信号的波达方向。然而，对相干信号，MUSIC算法却不能很好地分辨出它们的波达方向。针对相干信号源的DOA估计问题，各国学者提出了不少算法，这些算法大致可分为两类，一类是降维类处理算法，另一类是非降维类处理算法。　　 本文围绕经典MUSIC算法存在的一些问题做了研究，在已有成果的基础上提出了改进方案，论文主要内容如下:　　 1.分析了经典MUSIC算法的DOA估计原理，从信噪比和信号相关等方面对MUSIC算法的性能进行了研究。　　 2.分析了空间平滑类算法的解相干原理，介绍了三种有效的空间平滑类算法:前向空间平滑算法、后向空间平滑算法和前后向空间平滑算法。这几种空间平滑类算法都以牺牲天线的有效阵元数为前提，因此减少了可分辨信号源的数目。空间平滑类算法在估计相隔角度较小的相干信号源的情况下会失效。　　 3.针对空间平滑算法减少有效阵元数这一问题，分析了两种非降维处理解相干算法:修正的MUSIC算法(MMUSIC算法)和基于虚拟阵列变换法的MUSIC算法。两种算法都不以减少阵元的有效孔径为前提，能达到对相干信号源DOA准确估计的效果，但是在估计相隔角度较小的相干信号源的情况下，两种算法都会失效。鉴于此，作者在这两种方法的基础上，提出了基于虚拟阵列变换法的MMUSIC算法，该算法能够准确估计相隔角度为30的两个信号的DOA，在一定程度上提高了解相干信号源的角度分辨能力，计算机仿真结果证实了该算法的有效性。