一类不可微优化算法及在线性分类问题中的应用

来源 :西安科技大学 | 被引量 : 2次 | 上传用户:xiwang1998
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
介绍了不可微优化理论与算法的发展历史、研究意义及应用领域,分析了现有不可微优化算法的研究现状。提出了紧凸集的外接长方体的概念,构造了一个次微分集的外接长方体,在此基础上给出了一类求解无约束不可微优化算法,它与已有的不可微优化算法不同,搜索方向的确定不需要计算次微分集及任何次梯度元,也不需要求解任何二次规划,只需计算2n个方向导数,并且给出了算法收敛性的证明。通过引进二阶方向导数的概念,证明了几个积分中值定理,并由此证明了算法在一定条件下具有线性收敛性。针对极大值函数的特点,给出了极大值函数的ε-次梯度的计算方法,从而得到了一类求解极小极大问题的算法,并且证明了该算法的收敛性。对两类函数进行数值实验,并与已有的不可微优化算法进行比较,数值结果表明,算法是可行且有效的,并具有大范围收敛的特点,和已有的不可微优化算法相比,算法具有收敛速度快、迭代次数少的优点,尤其对具有严格不可微点的函数和极小极大问题,算法具有更明显的优势。最后将线性分类问题转换为一类无约束最优化问题,并给出了一种计算次梯度元的数值方法,从而可以利用次梯度型算法求解线性分类问题。算例表明,用不可微优化算法求线性回归方程,具有简单实用的特点。
其他文献
最优化是一门应用相当广泛的学科,它讨论决策问题的最优选择,构造寻求最优解的计算方法并研究这些方法的理论性质及实际计算表现。 最优化理论和方法的出现可以追溯到十分古
本文主要研究了用边值方法求解线性常系数微分代数方程及延迟微分代数方程。基于线性多步格式的边值方法是一类较新的求解微分方程的数值方法。利用边值方法可以把所求的(延迟
针对目前主流的城市轨道交通票务清分模式,提出一种基于正态分布函数,多路径概率选择模型为核心的票务清分算法。在计算路径权重后,确定有效路径并进行排序,利用路径选择概率
本文研究了一类半线性椭圆Dirichlet问题的多解理论与数值方法,拓展了谱Galerkin方法的应用。首先,本文设计了基于谱Galerkin方法的搜索延拓法(SEM),这种方法既发挥了传统SEM用
国际知名图论专家Radi′c等首次介绍了新的图矩阵,DMAX-矩阵,并指出DMAX-矩阵不仅可能为化学图理论打开一个新的研究方向,也可能在研究图的控制距离方向中扮演重要角色.故本
本文主要利用变分方法中的极小作用原理,极小极大方法和鞍点定理在适当的条件下研究了二阶Josephson系统中周期解的可解性. 第一章绪论:介绍了变分方法的发生,发展及本文将要
学位