基于天线阵列的波达方向(Direction-of-arrival,DOA)估计是阵列信号处理中的重要研究方向之一,其主要目的是利用空间中按照一定方式排列的传感器阵列接收到的测量数据,估计和提取待测空间目标信号的来波方向、信号数目以及频率等参数,在雷达、被动声纳、生物医学、射电天文以及地震勘察等军事和民用领域都有着广阔的应用前景。本论文针对DOA估计应用中的关键问题进行了深入的研究,并提出了一些性能优越的DOA估计算法。首先,基于均匀线性阵列(ULA),本论文提出了一种基于降维四阶累积量的正交传播算子算法,即MFOC-OPM算法。所提出的MFOC-OPM算法在保持虚拟阵列有效孔径不变的前提下,进一步去除了原始四阶累积量矩阵中大量的冗余元素,最后利用OPM算法来实现目标信号源的来波方向估计。仿真分析表明,所提出的MFOC-OPM算法在具有高精度DOA估计的同时,极大的降低了算法的计算复杂度。在上述所提MFOC-OPM算法的基础上,本论文又提出了一种基于Toeplitz近似的四阶累积量正交传播求根算法,即TFOC-OPRM算法。在所提出的TFOC-OPRM算法中,通过对降维四阶累积量矩阵进行Toeplitz操作来恢复Toeplitz结构,并基于多项式求根方法,对恢复Toeplitz结构的矩阵进行DOA估计。仿真分析表明,所提出的TFOC-OPRM算法不但具有非常高的估计性能,而且拥有很低的计算复杂度。其次,基于相互平行的两组ULA构成的天线阵列,针对相干目标信号源的二维DOA估计问题,本论文提出了一种基于矩阵重构的相干信号源的DOA估计算法。所提出的算法通过依次改变子阵列中的参考阵元,进而构造两个等效的协方差矩阵,然后通过对新构造的矩阵进行特征值分解,便可实现对相干目标信号源的解相干并最终完成二维的DOA估计。仿真结果表明,所提出的算法不仅具有很高的估计精度,还能分辨出更多的目标信号源。再次,基于ULA,针对独立目标信号源与相干目标信号源共存的DOA估计问题,本论文提出了在多径环境下独立信号源与相干信号源共存的空间差分DOA估计算法。在所提算法中,通过利用DOA矩阵的特征值模值的性质,不相关信号源的DOA首先被估计出来;然后通过采用改进的空间差分方法,不相关信号源的信息和噪声分量被彻底的消除,从而使空间差分矩阵中只含有相干信号源的数据信息;最后,通过使用空间平滑技术,相干信号源的DOA被最终正确的估计出来。仿真分析表明,所提出的算法不仅能够分辨出比阵元个数更多的入射目标信号源,还取得了很好的DOA估计性能。除此之外,针对不相关信号源和相干信号源具有相同的入射角度时,所提出的算法依然能够正确的实现DOA估计。最后,在基于ULA的基础上,本论文又提出了基于四阶累积量Toeplitz矩阵重构的低复杂度解相干算法,即TMR-OPM算法。所提出的TMR-OPM算法通过构造基于四阶累积量的Toeplitz矩阵,使得所构造的Toeplitz矩阵的秩仅等于目标信号源的个数,之后通过OPM算法来完成入射目标信号源的DOA估计。仿真分析表明,所提算法在保持高精度DOA估计的同时(尤其在低信噪比条件下仍然能够得到较好的估计性能),所提算法的计算复杂度有了极大幅度的降低。