论文部分内容阅读
介绍了不可微优化理论与算法的发展历史、研究意义及应用领域,分析了现有不可微优化算法的研究现状。提出了紧凸集的外接长方体的概念,构造了一个次微分集的外接长方体,在此基础上给出了一类求解无约束不可微优化算法,它与已有的不可微优化算法不同,搜索方向的确定不需要计算次微分集及任何次梯度元,也不需要求解任何二次规划,只需计算2n个方向导数,并且给出了算法收敛性的证明。通过引进二阶方向导数的概念,证明了几个积分中值定理,并由此证明了算法在一定条件下具有线性收敛性。针对极大值函数的特点,给出了极大值函数的ε-次梯度的计算方法,从而得到了一类求解极小极大问题的算法,并且证明了该算法的收敛性。对两类函数进行数值实验,并与已有的不可微优化算法进行比较,数值结果表明,算法是可行且有效的,并具有大范围收敛的特点,和已有的不可微优化算法相比,算法具有收敛速度快、迭代次数少的优点,尤其对具有严格不可微点的函数和极小极大问题,算法具有更明显的优势。最后将线性分类问题转换为一类无约束最优化问题,并给出了一种计算次梯度元的数值方法,从而可以利用次梯度型算法求解线性分类问题。算例表明,用不可微优化算法求线性回归方程,具有简单实用的特点。