长期以来，海杂波一直备受广大学者的关注，然而将海杂波作为一种随机过程来研究，并未取得很好的效果。为了更加深入的了解海杂波的内在物理特性及规律，用混沌理论来研究海杂波为海杂波的研究指明了一个新的方向，本文即是在这样的背景下来研究高频雷达海浪回波混沌特性的，希望将混沌理论应用到高频雷达海浪回波的研究中。为了应用混沌理论来研究高频雷达海浪回波，首先是要证明它具备混沌特性。在高频雷达海浪回波数据的基础上，对其进行了相空间重构，其中包括两方面的内容：延迟时间的确定和嵌入维数的计算，前者采用改进的自相关函数法，后者采用Cao方法，重构效果很好。高频雷达海浪回波数据在相空间重构的基础上，运用关联维数、Lyapunov指数和Kolmogorov熵三种方法证明了其确实具有混沌特性。其中在关联维计算中，作者提出了一种新的比较有效的识别无标度区间的方法，便于准确的计算关联维数。其次，我们利用混沌理论中的蝴蝶效应，即短时可预测性和长期不可预测性的特点，对高频雷达海浪回波进行了预测。由于其是非线性混沌的，所以我们采用了四种神经网络非线性预测方法，即BP网络、RBF网络、归一化RBF网络和RBF-BP网络。四种网络各具特点，但是最终的预测性能相差不大，鉴于BP网络容易陷入局部极小点，归一化RBF网络预测时间稍长，RBF-BP网络稍显复杂的特点，结果表明RBF网络实用性更强。最后，在杂波预测的基础上，利用混沌时间序列和高频雷达海浪回波数据进行了杂波对消和小目标检测的讨论。杂波对消应用的是BP网络和RBF网络，杂波对消之后，使原来淹没于海杂波中的目标得以显现，然后根据杂波对消之后的残余误差进行了目标检测，仿真实验表明对信杂比较小的目标仍能很好的检测到，本文最后一章对几种常用的去噪方法进行了简要的研究，结果表明小波去噪具有明显的优势。