非线性动力学电路与系统中的混沌是非线性科学研究的前沿课题之一，其中混沌的产生机理、解析预测以及混沌的应用是当前混沌研究的三大热点。本文研究属于基于混沌的应用研究，主要从雷达信号检测、参数估计、波形设计和图像处理的数字水印四个方面较全面地讨论了混沌理论及相关技术在信号处理系统中应用的可能性，探讨了相应的信号处理算法和实现过程。本文研究属于结合实际信号处理应用需求进行的基础理论研究。 混沌信号是由非线性系统产生的对初值极端敏感的类随机信号。混沌的应用研究首先是基于对混沌信号的深入分析和理解。本文首先对混沌信号的数学模型进行了深入的讨论，并分别从数学映射、统计学角度对其数学模型进行了全面的研究，特别是全面总结了混沌系统的统计学模型的研究成果，讨论并给出了混沌与噪声的区别与相似之处； 雷达信号处理的重要一步是杂波中的信号检测问题。针对混沌杂波背景中的信号检测问题，本文把神经网络应用于海杂波中的雷达信号检测问题中。提出了一种基于神经网络的信号检测方案； 信号检测解决了信号的有无判断问题，而参数估计则是要解决信号参量的确定问题。混沌背景中的有用信号的参数估计问题是在雷达应用(如波达方向估计)和混沌调制的通信系统中窄带干涉抵消中经常遇到的重要问题之一。本文先后研究了最小二乘-自回归谱估计(LS-AR)、基于遗传算法的最小相空间体积法(GA-MPSV)和混沌噪声的神经网络建模预测和谱估计三种算法。理论分析表明用MPSV方法估计比LS方法估计更准确。但MPSV算法实现比较复杂，本文引入了遗传算法来解决该问题，为了克服遗传算法实现上的困难(参数初始值和参数有效区间的选择问题)，本文首次提出先用LS-AR算法确定参数的初始和有效区间问题，并讨论了具体实现过程，给出了仿真试验对比； 针对“低截获概率”雷达波形设计问题，在理论分析和数值实验的基础上，着重研究了混沌信号在雷达波形设计中的应用。提出了混沌雷达信号概念，对模糊函数进行了大量的研究，着重研究了两种情形下的混沌雷达波形分辨率特点，做了大量的理论推导和数值实验，证明混沌雷达波形具有极佳的分辨率；摘要 将混沌理论引入数字水印初始序列的创建中，实现了混沌序列水印在原始图像小波域中的自适应嵌入，从而兼顾了数字水印的不可见性和鲁棒性。 总结本文的主要贡献主要有以下几点:圣首先对混沌理论的研究现状和基本数学结论进行了总结和分析，特别是对混沌信号进行了深入地分析，研究了其相关特性(谱特性)、最大Ly即unov指数，对这两个方面进行了大量的理论推导和数值模拟。本文同时从自相关和互相关角度比较全面的揭示了混沌信号的理想相关特性，从数值模拟的结果表明该结论具有一定的普适性，实际上这种相关特性正是后面研究混沌雷达信号的重要基础。全针对混沌杂波中的信号检测问题，基于神经网络具有的拟和任意非线性函数的能力，建立了混沌系统的神经网络模型。基于混沌噪声的预测值，提出了混沌噪声中的信号检测方案，并进行了相应的仿真试验。本文提出了用林基函数 (RBF)神经网络进行混沌信号预测的方案，用理论分析和实验结果说明了所提方案的有效性。并分析指出了所提的RBF网络相对于常用即神经网络的优越性。全先后研究了三种混沌背景中有用信号的参数估计算法，研究了LS一AR估计算法和MPSV~AR算法的实现，进行了仿真实验和估计性能分析，并将两种方法的实验结果进行比较。考虑到MPSV.AR.方法实现的复杂性和LS一AR方法的性能不能令人满意，首次提出了神经网络建模预测混沌序列和谱分析技术相结合(即NN一AR)作参数估计的方法，对此进行了必要的理论分析，得到了较好的仿真结果，可以在性能和复杂度方面取得较好的平衡。全提出了混沌雷达信号概念，对模糊函数进行了大量的研究，着重研究了两种情形下的混沌雷达波形分辨率特点，做了大量的理论推导和数值实验，证明混沌雷达波形具有极佳的分辨率。本文针对混沌序列的产生技术讨论了非线性滤波和分段线性映射两种实现方案。蚕提出了将混沌理论引入数字水印初始序列的创建中，实现了混沌序列水印在原始图像小波域中的自适应嵌入，从而兼顾了数字水印的不可见性和鲁棒性。混沌序列相对于其他如M序列、Gold码等伪随机码具有实现简单方便的优点。 最后，对全文的研究工作进行了总结，得出了一些基本的结论，指出了需要进一步研究和讨论的课题。