论文部分内容阅读
为提高优化方法中敏度计算的精度和效率，比较研究了拟梯度、复数步长微分和自动微分三种数值方法原理及实现。采用操作符重载和模板技术实现复数步长微分和自动微分，并将自动微分前向模式和反向模式结合起来计算Hesse矩阵。研究表明：拟梯度能有效地减少函数求值次数，但对高度非线性函数其计算精度较差；复数步长微分方法简单，能得到机器精度的梯度值，但需要处理复数，计算量较大；自动微分在函数求值的同时并行计算高阶精确导数值，计算量适中。