微弱信号检测在通信、雷达和声呐等领域有着广泛的应用。传统微弱信号检测方法大多采用线性处理方法,在低信噪比情况下效果并不理想,促使人们不断探索微弱信号检测的新理论、新方法,以期能够从强噪声背景中更准确地检测出微弱信号。近年来,非线性学科的发展为解决这类问题提供了新的思路。非线性系统中往往存在着诸多线性系统中不存在的现象,如跃迁、高阶谐振及混沌等等。与线性系统中单纯抑制噪声不同,非线性系统可以利用噪声。目前利用非线性动力学进行信号检测一般只涉及到检测单音信号,比如正弦波。而通信信号一般是带通信号,有的数字通信调制信号会具有多种频率和相位,并且由于信源的随机性会导致符号周期波形不连续。本文以非线性动力学理论为基础,研究了基于随机共振和Duffing混沌系统的微弱通信调制信号检测方法。论文的主要内容包括：1.基于随机共振的微弱通信信号检测方面,论文首先对双稳态随机共振系统数值求解稳定性进行了讨论,然后采用基于自适应随机共振系统的新型能量检测算法和周期图能量检测算法,仿真分析了BFSK、QPSK、MSK和16QAM这四种调制信号在同步与非同步情况下的检测性能,并研究了噪声不确定性对检测性能的影响。结果表明：与能量检测相比,这两种检测算法均提高了检测性能。2.基于Duffing混沌系统的微弱通信信号检测方面,Duffing系统状态对策动力幅值敏感的动力学特性为基于Duffing混沌系统进行微弱信号检测提供了理论基础。论文研究了影响Duffing系统状态判别的四个要素：步长、初始相位、噪声以及信号频率。由于利用Duffing混沌系统进行微弱信号检测关键是系统状态的判定,本文进一步研究了基于功率谱特征和基于伪哈密顿量两种定量判别方法：●利用Duffing系统在混沌状态与大周期状态时功率谱低频分量具有很大差异这一特征,论文提出了基于功率谱特征的检测算法,仿真分析了该算法检测BFSK、QPSK、MSK和16QAM四种调制信号的性能。●利用Duffing系统在混沌状态与大周期状态时伪哈密顿量具有很大差异这一特征,论文研究了基于伪哈密顿量的检测算法,仿真分析了BFSK、 QPSK、MSK和16QAM四种调制信号在这一算法下的检测性能。仿真结果显示：上述两种方法的性能均优于能量检测算法。