波达方向角(Direction-of-Arrival,DOA)估计一直以来在阵列信号处理领域都受到广泛的关注,并且扮演者重要的角色。其被广泛应用于民用和军事领域,包括雷达目标定位、目标测向、移动通信以及电子对战等。DOA估计在经过几十年的发展之后,大量基于不同理论的估计算法被提出,例如基于子空间理论的MUSIC(Multiple Signal Classification)和ESPRIT(Estimation of Signal Parameters via Rotational Invariance Techniques)算法以及基于压缩感知(Compressed Sensing,CS)理论的L1范数优化算法和稀疏贝叶斯学习(Sparse Bayesian Learning,SBL)算法等。并且正在不断朝着低成本、高分辨率、低计算复杂度的方向发展。相较于基于子空间理论的DOA估计方法,基于压缩感知理论的DOA估计方法能够有效果克服子空间类算法在小快拍数、低信噪比(Signal-to-Noise-Ratio,SNR)情况下性能不理想的问题。但是传统的基于稀疏表示(Sparse Representation,SR)的DOA估计算法在阵列互耦、非均匀噪声和离格情况下,其性能会出现严重的衰减。本文主要从稀疏贝叶斯学习理论出发,主要针对阵列互耦和非均匀噪声等情况下的离格(off-grid)DOA估计进行研究。本文首先阐述了DOA估计的基本原理,给出了DOA估计的具体阵列信号模型,并且简要介绍了贝叶斯定理和压缩感知理论。其次,针对互耦条件下的离格DOA估计进行了研究,提出了一种互耦条件下的求根SBL算法。利用互耦矩阵的带状复对称托普利兹(Toeplitz)结构消除阵列互耦对DOA估计的影响;然后通过多项式求根对空域离散网格点进行更新,从而实现离格DOA估计。然后,针对非均匀噪声条件下的离格DOA估计,本文提出了一种非均匀噪声条件下的离格DOA估计算法。其中通过一种改进的逆迭代方法对非均匀噪声的协方差矩阵进行重构,从而消除非均匀噪声对DOA估计性能造成的影响。最后,从实际出发,进一步研究了非均匀噪声条件下的离格DOA估计方法,提出了一种新的基于多输入多输出(Multiple Input Multiple Output,MIMO)阵列的非均匀噪声条件下的离格DOA估计算法,其中利用最小二乘法(Least Square,LS)对噪声协方差矩阵进行重构,并将其应用于车联网(Internet of Vehicles,IoV)中,提出了一种三协作基站辅助车辆定位方法。本文针对所提出的不同的DOA估计算法进行了大量的仿真实验,实验结果充分验证了所提出的算法的有效性与鲁棒性。