二进制相移键控(BPSK)和幅度调制(MASK)等信号是雷达系统中常用的信号,这种调制信号的椭圆协方差矩阵不为零,被称为非圆信号。同时利用非圆信号协方差矩阵和椭圆协方差矩阵提高波达方向(DOA)估计算法性能,已成为DOA估计领域一个新的研究热点。传统DOA估计算法和现有非圆信号DOA估计算法都需要特征值分解或奇异值分解,计算量较大。因此,本文针对怎样利用辐射源信号非圆特性,以及降低计算量等问题展开研究。论文的主要工作及研究成果如下：1.分析非圆特性辐射源信号性质,并详细阐述传统信源数估计算法的基本理论,将信息论法(EDC)拓展到检测非圆特性辐射源信号数中,给出实值信号EDC(REDC)算法。实验结果表明,REDC算法能有效检测比阵元数多的信号,且在低信噪比环境下能改善检测性能。2.深入研究多重信号分类(MUSIC)算法和空间平滑算法原理,针对MUSIC算法没有利用非圆特性,以及不能处理相干信号的问题,给出一种新的实值信号共轭MUSIC(CMUSIC)算法,并结合空间平滑算法思想,给出实值空间平滑(RSS)算法。仿真实验表明,CMUSIC算法可对多于阵元数的信号进行测向,还可处理相干信号,获得的分辨力和测向精度均优于MUSIC算法。与空间平滑算法相比,RSS算法有效增加矩阵维数,虽然使计算量增大,但能提高DOA估计成功率和估计精度。3.详细阐述旋转不变子空间(ESPRIT)算法基本思想,并利用信号的非圆特性,结合ESPRIT算法,给出实值信号共轭ESPRIT算法。由仿真实验可知,CESPRIT算法不需要通过谱峰搜索获得信号的DOA,且可以处理多于阵元个数的信号,计算量虽有所增加,但能增强DOA估计的分辨力,提高估计精度。4.针对利用非圆特性时计算量增大问题,引入传播算子算法(PM),给出非圆辐射源信号的旋转不变传播算子(NCRIP)算法。实验结果显示,NCRIP算法估计性能优于扩展传播算子(EPM)算法,接近非圆信号ESPRIT(NC-ESPRIT)算法,且可以处理多于阵元个数的信号,既不需要特征分解或奇异值分解,也不需要通过谱峰搜索获得信号DOA,大大减少计算量。本文工作得到国家自然科学基金(60702026)和四川省青年科技基金项目(09ZQ026-040)的共同资助。