论文部分内容阅读
支持向量机是基于统计学习理论,借助最优化方法来解决机器学习问题的新工具。最近,支持向量机方法已经成为机器学习领域研究的热点。它将机器学习问题转化为求解最优化问题,并应用最优化理论构造算法来解决凸二次规划问题。论文主要是利用最优化理论中的原始问题与对偶问题解的关系和KKT 条件,对支持向量机中两类最常用分类方法:v-SVC 和C -SVC 的解的关系问题进行研究和论证;所得的结果为其它各种方法之间的关系研究提供了理论上、思想上的依据和启发。论文首先详细地论述了支持向量机的基本思想和各种常用的支持向量机方法,然后通过深入分析,发现现有的方法对各种方法之间的关系从最优化理论的角度考虑甚少,因此文章针对这一问题,应用最优化理论进行深入研究,主要的研究成果如下: 1) 推导并证明了SVM 模型是非严格凸的二次规划问题时,解可能不唯一性情形,但是各个解的分量之和是相等的; 2) 定义了一个关于C -SVC 对偶问题的解算子α和参数C 的新函数,该函数是参数C 定义域内的一个恒取正数的连续非增的函数;同时在新定义的这个函数和参数v之间建立了一一对应关系,使得v -SVC 和C -SVC 有相同的最优解集; 3) 论证了v -SVC 解的存在性问题; 4) 为了证明定理引入并证明了SVM 的两种方法v -SVC 和C -SVC 解集相同的充分条件的引理, v -SVC 的对偶问题解集存在的充要条件引理以及解集相同的存在性、唯一性等结论。目前,对支持向量机的研究主要是针对统计学习理论以及各种应用领域的研究,而从最优化理论的角度去研究各种方法之间关系的工作甚少,这就使得支持向量机方法之间缺少通用性,为其应用带来了诸如各种参数的难确定性等问题,因此本文的研究无论对支持向量机的理论还是实践应用,都具有很重要的意义.