论文部分内容阅读
对于一般的无约束优化问题而言,共轭梯度法是一类重要的数值计算方法,它介于最速下降法与牛顿法之间.共轭梯度法的优势在于它仅需利用一阶导数的信息,不但能克服最速下降法收敛慢的缺点,又能避免牛顿法需要存储和计算Hessian矩阵并求逆的不足.基于具有的上述优点,共轭梯度法在大规模优化问题中起到了不容忽视的作用.因此,共轭梯度法的研究一直是一个比较热门的研究方向.本文主要研究对传统LS共轭梯度法的修正和基于子空间技术的三项共轭梯度法.第二章,基于传统的LS共轭梯度法,提出修正的LS法,并证明对于强凸函数,新算法在Wolfe线性搜索条件下可以达到全局收敛.进一步,在所提出算法中加入一个混合策略,则对于一般非凸函数,算法也具有全局收敛性.第三章,结合子空间技术,提出求解大规模无约束优化问题的一种子空间三项共轭梯度法,其搜索方向在由负梯度方向,迭代点的差和梯度差张成的子空间上选择.在这个子空间中,通过极小化目标函数的二次近似问题确定搜索方向,它在任何线性搜索条件下都具有充分下降性.在适当假设条件下,证明算法的全局收敛性.第四章,在由当前迭代点的负梯度方向和最近两次迭代的搜索方向张成的子空间上,极小化目标函数的近似子问题,进而推导出另一种子空间三项共轭梯度法.其搜索方向不仅满足下降条件也满足Dai-Liao共轭梯度条件.在适当假设条件下,证明了算法的收敛性.本文对所提出的所有算法进行了数值实验,并利用性能图对算法的数值计算结果进行了比较分析,说明所提出算法的有效性和适用范围.