用自动微分分划组的修正算法解大型稀疏无约束优化问题

来源 :大连理工大学 | 被引量 : 0次 | 上传用户:lyh993
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
非线性最优化在科学计算和工程分析等领域中都起着非常重要的作用。在大规模稀疏非线性最优化的研究中,Newton型方法一直受到人们的青睐,对它的改进一直是人们关注的问题。近年来,结合稀疏Hesse阵的结构,按照分划组的思想将矩阵列分划进行迭代是国内外研究的一个热点。它们大都涉及求解函数的梯度和海森矩阵,通常使用的计算方法是符号微分和差分近似。对于大中规模问题来说,使用符号微分,成本昂贵,有时甚至不可行,在计算导数的方向梯度时,利用差分法虽然可以降低计算成本,但得到的是近似值,而且确定恰当的差分区间也很困难。自动微分是一种新的能精确而有效地计算导数的方法,它优越于传统的微分方法。例如它比符号和差分方法的计算成本低,又比差分方法计算精确。本文第一章简单介绍了大型稀疏无约束优化的解法发展历程和求解方法的综述,指出了现存方法存在的问题并提出了本文研究的专题。第二章给出了在求解无约束优化问题时比较经典的方法。第三章介绍了自动微分的求导技术,明确阐述了自动微分的基本概念、方法,根据链式法则简单解释了自动微分的两种基本模式:前向模式和后向模式;并与差分法做了相关比较。第四章是在第三章的基础上进一步讨论自动微分在求二阶导数时的应用,把自动微分与相容分划的思想相结合,根据大型稀疏Hesse矩阵的结构特点,提出了分别用直接法和间接法求目标函数的Hesse矩阵,比较了它们的优劣性。第五章是将自动微分应用于PGC算法,提出了新的算法ADPGC,该算法保留了PGC算法在每个分划组内把所有元素仅仅修正一次的优点,又保证了每步迭代中Hesse矩阵与向量的乘积都能得到精确值,提高了精度,减少了函数和梯度的赋值。并通过一些优化问题给出了实验结果,结果数据表明新算法具有较好的性质。
其他文献
科技型中小企业已经成为推动经济发展、技术转化的生力军。有效提高科技型中小企业的核心竞争力成为知识经济时代重要的研究课程,技术创新能力是企业核心竞争力的一部分,是企
青年这一特殊的群体,自中国共产党成立之日起,就始终受到高度的重视、关心和信任。在领导中华民族伟大复兴的实践中,在领导中国青年运动的过程中,我们党紧密结合中国的具体国
数学知识可能用得少,但是数学素养时时影响着我们。科学精神是与数学核心素养关系最为密切的综合核心素养。数学核心素养是数学课程目标的集中体现。分别用生活化的案例,解读
1800年8月21日,拿破仑下令成立由4名委员组成的“民法起草委员会”。4名委员在枫丹白露的城堡里完成了起草工作。参政院围绕民法草案,共召开过102次讨论会,拿破仑亲任会议主席并
我通过创作《“悠游”》系列两幅作品,来表现对于自己周遭世界的思考,以及对自己的生命状态审视与观察。画面受到超现实主义的影响,正如吕澎、易丹所讲“超现实主义的出现表
随着社会的发展,当前主要依赖于储量有限的化石能源的消费方式,使得大气中的CO_2含量日益增高,随之而来的能源危机和环境污染两大问题严重威胁着人们的生存和生活环境。利用太阳能实现CO_2转化为能源是解决能源危机和温室效应等问题的有效手段,但同时也面临着巨大的挑战。传统的半导体材料,过渡金属修饰的分子筛材料等光催化剂由于催化效率较低、结构可调性差,限制了这些材料光催化中的应用。因此,急需开发新型高效的
目的:观察中药复方养正散结汤治疗胃癌癌前病变的临床疗效,探索养正散结汤阻断胃癌癌前病变的miRNA途径。方法:临床研究:收集慢性胃炎伴肠上皮化生、异型增生病人共38例,根据
近年来,光催化技术因其高效率、低能耗、低成本、少污染等优点被广泛应用于水处理领域,开发新型、高效的光催化材料是光催化研究的重点和难点。类水滑石及其焙烧产物作为光催化剂处理废水,不会产生二次污染,且可以高效降解水体中的污染物,催化能力较强。本文采用共沉淀法制备含Ti三元类水滑石Ti-LDH,焙烧得其产物Ti-LDO并对二者用SEM、FT-IR、UV-Vis DRS、BET、XRD等手段表征分析,探究
综述了人因可靠性的研究概况,并就人的应力与人为差错、减少人为差错的措施等方面进行了探讨。
目 的 近年来抗凋亡机制在MDR发生中的作用已得到普遍关注。通过对抗凋亡基因Bcl-2的深入研究,使人们对肿瘤细胞获得耐药性的机制有了更新的认识。许多化疗药物均可诱导肿