支持向量机与最小二乘法的关系研究

来源 :清华大学学报(自然科学版) | 被引量 : 0次 | 上传用户:bchen2009
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
研究了支持向量机 (SVM)在二次损失函数下的优化问题解的形式 ,并与普通的最小二乘 (L S)估计问题进行了比较 ,得到了几乎完全一致的优化问题形式。由于 SVM在二次损失函数下的优化问题对应于一个欠定问题 ,该问题在最小二乘估计中有最小范数解。如果 SVM的参数选择合适 ,从理论上可以证明采用二次损失函数的 SVM函数拟合问题实际为约束最小二乘估计问题 ,并且该问题的解对应于最小范数最小二乘解。由于最小化范数解实际是 SVM在取某些参数时的一个特例 ,如果能够自动调整这些参数 ,则得到一类最小化范数解。由此提出了采用 SVM解决最小二乘法问题的思想 ,由于 SVM的优点 ,使解更加符合实际情况 The form of the solution to the optimization problem of support vector machine (SVM) under the quadratic loss function is studied. Compared with the general least squares (LS) estimation problem, an almost complete form of the optimization problem is obtained. Since the SVM optimization problem under the quadratic loss function corresponds to an underdetermined problem, this problem has the least norm solution in the least squares estimation. If SVM parameters are chosen properly, it can theoretically be proved that the SVM function fitting problem using the quadratic loss function is actually a constrained least-squares estimation problem, and the solution to the problem corresponds to the least-norm least-squares solution. Since the minimization of norm solutions is actually a special case of SVM taking certain parameters, a class of minimization norm solutions are obtained if these parameters can be automatically adjusted. Therefore, the idea of ​​using SVM to solve the least squares problem is proposed. Due to the advantages of SVM, the solution is more in line with the actual situation
其他文献
以上海多伦路文化休闲街的实际使用状态出发,文章从地区定位、功能配置和空间状态组织等方面对其规划设计进行了评价,揭示了其中存在的问题和改进的方向,同时也探讨了步行街
<正> 版权产业和版权贸易是知识产权产业的重要组成部分。根据美国“国际知识产权联盟”2002年4月发表的研究报告显示,近10年来,美国的版权产业在美国经济中迅速崛起,成为一
在中国一大批有相对竞争优势的企业纷纷“走出去”,参与国际竞争的大背景下,企业如何确定跨国经营战略,如何做好跨国经营的项目论证和实施,以及如何管理海外企业是每一个企业
本论文介绍了大连市城市快速轨道车车体钢结构部分的设计思想、结构组成、强度计算以及制造工艺等方面的内容。文章从车辆要求出发,结合目前国内外先进技术,全面分析了车体钢结
软件无线电(Software Radio)技术的出现使多载波、多模式等无线通信成为可能,是现代无线通信领域发展的一项重要技术。本论文讨论服务于以软件无线电为核心技术的铁路安全监
目前,中国烟草发展最核心的问题是必须在有限的时间内,培育一批具有很强竞争力的卷烟品牌,在这一背景下,每一个烟草品牌运营的成功与否,决定着该品牌甚至该企业在几年后能否存活下
采用溶胶-凝胶法引入二氧化硅纳米粒子制备了超亲水改性PAMAM聚合物,利用FT-IR、SEM、AFM以及表面张力仪对改性PAMAM聚合物涂层进行表征,考察了改性PAMAM聚合物涂层的润湿性
<正>面对日益复杂的经济环境、层出不穷的管理层舞弊以及外包业务的兴起,内部审计迎来了前所未有的机遇与挑战。在充满增值期望的时代中,内部审计若要成为企业价值链条上不被
科技日新月异,随着大功率开关器件,集成电路及高性能磁性材料的进步,采用电子换向原理工作的无刷直流电机取得了长足的发展。无刷直流电机既具有直流电机的结构简单,运行可靠,维护
研究目的:通过观察186例慢性萎缩性胃炎的中医证型分布,及患者性别、年龄等因素与慢性萎缩性胃炎的中医证型分布的关系,对慢性萎缩性胃炎的中医证候分布规律进行探讨,为本病在