记忆梯度算法研究

来源 :太原科技大学 | 被引量 : 1次 | 上传用户:m6300
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
最优化方法是运筹学的一个重要组成部分,在自然科学、社会科学、生产实践、工程设计和现代化管理中具有广泛的应用。近年来,随着计算机的飞速发展以及实际问题的需要,大规模优化问题越来越受到重视,很多实际问题都可以归结为最优化问题来解。最优化问题的一个核心是设计有效的算法。而记忆梯度法正是求解大规模无约束优化问题的一种有效方法,于是记忆梯度法的理论研究又受到人们的关注。本文对近年来受关注的非线性记忆梯度法进行了研究,主要研究结果归纳如下:   第一章、主要介绍了优化问题的基本算法以及记忆梯度法的一些基本知识和本文的主要工作。   第二章、在水平集有界的情况下通过构造一个新的βk,提出一种新的无约束优化问题的记忆梯度算法,并在Armijo线搜索下证明了该算法的全局收敛性,同时对其收敛速度进行了分析,且证明了该算法在Armijo搜索下至少是R线性收敛的。数值实验表明了新算法的有效性。   第三章、本章对文献[1]搜索方向中的参数βk给了一个假设条件,从而确定了它的一个新的取值范围,保证了搜索方向是目标函数的充分下降方向,由此提出了一类新的记忆梯度算法。在去掉迭代点列有界和广义Armijo步长搜索下,讨论了算法的全局收敛性,且给出了结合形如FR,PR,HS共轭梯度法的记忆梯度法的修正形式。数值实验表明,新算法比Armijo线搜索下的FR、PR、HS共轭梯度法和文献[1]中的超记忆梯度法更稳定、更有效。
其他文献
分配格是一种特殊的偏序集,也是一种具有两个二元运算且满足幂等性、交换律、结合律、吸收律和分配律的代数系统.而群是具有封闭性、满足结合律、具有单位元和逆元的数学结构
社会性动物的群体活动往往能产生惊人的自组织行为,如个体行为显得盲目的蚂蚁在组成蚁群后能够发现从蚁巢到食物源的最短路径。受其启发,意大利学者M.Dorigo等人在1991年通过
神经元在中枢神经系统信息处理过程中起着关键的作用,神经元信息的产生和传输体现了丰富的非线性特征.因此,单个神经元与多个神经元耦合系统的非线性动力学研究具有重要意义。
学位
二阶系统通常是指用二阶微分方程所描述的系统。在控制系统等应用领域中二阶系统的存在尤为广泛。在一定的条件下,许多高阶系统往往都可以转化为二阶系统来研究。因此,对于二阶
在当今社会,人们身边充斥着大量的数据,特别是文本数据,使人目不暇接。面对如此海量数据,我们已经不能简单地凭借人工处理来得到信息,迫切需要计算机来帮助我们更好地发现和
在本文中,基于前人的一些研究成果,计算线能函数关于对称张量的微分,并用其证明有界严格凸集上第一特征函数和热方程正解的对数凹性估计.  
本文主要研宄了Zp空间上的函数导数的平均增长以及Bloch型空间和Bers型空间到Zp空间的一个积分型算子Cnφ,g的有界性和紧性.主要包含以下几个部分:  第一章,主要介绍了空间的