人工神经网络、模拟退火算法和遗传算法的研究是当代信息科学技术的前沿和热点，对非线性系统辨识和预测等方面具有重要的理论和应用价值。本文系统深入地研究了神经网络、模拟退火算法和遗传算法，结合系统辨识理论和最优化技术，提出了三种新型的混合算法。以深层火山岩储层预测为应用背景，利用上述三种新型混合算法，得到了带新型混合算法的径向基函数神经网络、带新型混合模拟退火算法的神经网络和带新型混合遗传算法的神经网络，完成了对复杂非线性油藏系统的建模和油气识别。本文主要完成以下研究工作： Karayiannis等人提出了一种二阶算法，该算法在推导时作了若干简化，特别是Hessian阵公式的简化过于牵强，丢失了一些有用信息，使算法的性能受到一定的影响，并且算法的推导不彻底，致使算法的计算量仍比较大，针对这些问题，提出了一种新型二阶学习算法，并证明了它与Newton迭代算法等价和具有二阶收敛速度。由算法性能分析和仿真应用表明了新算法优于Karayiannis的二阶学习算法。 本文系统研究了径向基函数神经网络的原理，提出了一种优选聚类算法，并将该算法与正交最小二乘法和最优化技术中的梯度法相结合，提出了一种新型的混合算法，用该混合算法来辨识径向基函数神经网络的结构、参数和权值。研究了模拟退火算法的原理及其设计与实现，在此基础之上，本文提出了一种带自适应冷却进度表的模拟退火算法，并将该算法与最优化技术中的Powell算法相结合，提出了一种新型的混合算法，应用该混合算法来辨识多层前向神经网络的权值。研究了遗传算法的原理及其设计与实现，考虑到误差反向传播算法收敛速度慢和可能收敛到局部极小点的不足和单独利用遗传算法往往只能在短时间内寻找到全局最优解的近似值(次优解)，将遗传算法和误差反向传播算法相结合，提出了遗传BP算法，用该算法来辨识多层前向神经网络的权值。 将本文提出的带新型混合算法的神经网络应用于火山岩的油气识别，应用表明了本文提出的方案的有效性。