SVM中两类常用分类方法的关系研究

来源 :重庆大学 | 被引量 : 0次 | 上传用户:a3799222999
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
支持向量机是基于统计学习理论,借助最优化方法来解决机器学习问题的新工具。最近,支持向量机方法已经成为机器学习领域研究的热点。它将机器学习问题转化为求解最优化问题,并应用最优化理论构造算法来解决凸二次规划问题。论文主要是利用最优化理论中的原始问题与对偶问题解的关系和KKT 条件,对支持向量机中两类最常用分类方法:v-SVC 和C -SVC 的解的关系问题进行研究和论证;所得的结果为其它各种方法之间的关系研究提供了理论上、思想上的依据和启发。论文首先详细地论述了支持向量机的基本思想和各种常用的支持向量机方法,然后通过深入分析,发现现有的方法对各种方法之间的关系从最优化理论的角度考虑甚少,因此文章针对这一问题,应用最优化理论进行深入研究,主要的研究成果如下: 1) 推导并证明了SVM 模型是非严格凸的二次规划问题时,解可能不唯一性情形,但是各个解的分量之和是相等的; 2) 定义了一个关于C -SVC 对偶问题的解算子α和参数C 的新函数,该函数是参数C 定义域内的一个恒取正数的连续非增的函数;同时在新定义的这个函数和参数v之间建立了一一对应关系,使得v -SVC 和C -SVC 有相同的最优解集; 3) 论证了v -SVC 解的存在性问题; 4) 为了证明定理引入并证明了SVM 的两种方法v -SVC 和C -SVC 解集相同的充分条件的引理, v -SVC 的对偶问题解集存在的充要条件引理以及解集相同的存在性、唯一性等结论。目前,对支持向量机的研究主要是针对统计学习理论以及各种应用领域的研究,而从最优化理论的角度去研究各种方法之间关系的工作甚少,这就使得支持向量机方法之间缺少通用性,为其应用带来了诸如各种参数的难确定性等问题,因此本文的研究无论对支持向量机的理论还是实践应用,都具有很重要的意义.
其他文献
大学英语是我国高等教育领域的一门基础性必修课,英语作为在世界范围内使用最广泛的国际语言,在不同国家、地区、民族之间的交流过程中起着不可替代的作用.不断提升大学英语
本文首先论述了孤立的transversal集合等价于孤立的置换集(§2.1),并给出了孤立的置换集的图论刻划(§2.2).此外,利用孤立置换集的刻划解决了一个关于某些置换阵的线性无关性判
半参数变系数部分线性模型是近年来兴起的处理高维数据的一类新的模型。模型中既有参数分量,又有非参数分量,所以,该模型不仅具有参数模型利于解释的特点,而且还具有非参数模型比
非线性泛函分析是现代分析数学的一个重要分支,是人们在研究生物学、现代物理学、经济学等学科的过程中逐渐发展起来的。因其不仅当今科技领域中出现的各种非线性问题提供了富
本文进行了如下三部分的工作。 第一章简要地介绍了小波方面的预备知识。首先,系统地总结了小波的基本概念;其次,介绍了Daubecllies函数族及其性质。 第二章研究了一维热
三维模型的孔洞修复是数字几何处理中的一个重要问题。它的应用领域非常广泛,如:古建筑、古文物的保存,草绘建模,颅骨修复手术,CAD建模等。现有的孔洞修复方法要么时间复杂度
电力负荷预测水平已成为衡量电力系统运行管理现代化的标志之一.它是制定发电计划和输电方案的主要依据,对合理安排机组启停、确定燃料供应计划、进行能量交易等具有重要意义,
作文教学在小学语文教学中占有非常重要的地位。语文课程标准指出:小学作文就是练习把自己亲身经历的事情或把自己看到的、听到的、想到的,用恰当的语言文字表达出来。因此,
目前,我国高等教育正处于大众化教育阶段,面对各地高校困难学生群体数目的不断的增加,作为高校内的资助工作开展的主体,资助工作团队成为推动高校学生资助工作有效开展的主力
脉冲微分方程对在瞬时干扰下状态发生突然变化的演变过程提供了一种自然的描述,在数学处理上,脉冲的出现使得系统具有混合性,既是连续的,又是离散的,相应的脉冲微分方程理论也比无