【摘 要】
:
支持向量机(Support Vector Machine,SVM)作为机器学习中的重要方法,因其具有良好的泛化能力备受关注,它可用来解决回归问题与分类问题.SVM模型是一个带有不等式约束的凸二次规
论文部分内容阅读
支持向量机(Support Vector Machine,SVM)作为机器学习中的重要方法,因其具有良好的泛化能力备受关注,它可用来解决回归问题与分类问题.SVM模型是一个带有不等式约束的凸二次规划问题,通过将模型中的误差项平方化以及将不等式约束转化为等式约束,SVM可简化为最小二乘支持向量机(Least Squares SVM,LSSVM).LSSVM继承了SVM较强的泛化能力以及可引入核函数处理非线性问题的优点.与SVM相比,LSSVM模型的求解相对简单,可等价转化为线性方程组求解.但另一方面,由于在SVM到LSSVM的简化过程中将非负误差项处理为误差的平方项,导致LSSVM模型的解向量容易丧失稀疏性,这也就意味着几乎所有样本都会作为支持向量参与计算.因此,如何实现LSSVM模型解向量的稀疏性是非常重要的.本文主要研究了对于回归问题与分类问题,如何构建稀疏支持向量机模型获得稀疏的解向量,从而控制参与计算的支持向量个数.此外,将构建的模型应用到了金融时间序列预测、信用违约判别等问题上.本文的研究内容主要有以下两个方面:一、考虑了LSSVM回归模型与分类模型的对偶问题.将原模型的Lagrange乘子的0l-范数约束分别添加到了它们的对偶问题中,构建了l0-稀疏对偶支持向量机回归及分类模型,以实现支持向量稀疏化的目的.所构建的两种模型均可用稀疏投影梯度方法求解.二、利用本文构建的两种模型求解了函数拟合回归、金融时间序列预测、双曲螺旋二分类以及信贷客户违约判别预测问题.使用Matlab编程进行了数值实验.数值结果表明所构建的模型对于四种问题的应用均可以在保证精度的前提下,获得稀疏的支持向量.此外,分析了求解指数跟踪问题的0l-稀疏支持向量回归模型的数值结果.本文第1章简要介绍了SVM、LSSVM以及稀疏优化的研究进展;第2章主要介绍了LSSVM模型及求解方法;第3章首先给出了本文构建的l0-稀疏对偶支持向量机模型,随后介绍了求解该类模型的投影梯度算法;第4章给出了该类模型在一些实际问题上的应用与数值实验.最后是总结和展望.
其他文献
自二十世纪七十年代改革开放以来,我国的城市化进程突飞猛进。城市化的发展不仅推动了我国国民经济繁荣发展,还使我国居民的生活水平日益提高。在经济的发展充满强劲发展势头的同时,一系列城市化问题也随之而来,例如,城市无序化开发、土地利用效率低下等等。这一系列问题的出现给生态环境以及耕地的保护带来巨大的压力,如若不能及时有效的遏制这一态势,我国城市化的健康发展势必会受到一定程度的影响。因此,如何使经济发展与
由于资源共享,死锁控制是柔性制造系统建模和分析时不可规避而又十分重要的问题。死锁预防策略主要有结构性分析和可达性分析两种方法。结构性分析技术主要基于信标(siphons)
随着机动车保有量的增长,涉车违法犯罪愈加猖獗,使得套牌违法现象越发突出。“套牌车”会带来一系列的社会问题。有效识别套牌车辆已成为交管部门急需解决的难题。鉴于目前尚
近年来,农药行业现已进入买方市场,供大于求,企业竞相压价。唯份额论的市场追求目标驱使一些企业在技术研发和产品质量上投入严重不足,将大量费用用于降价促销和让利给经销商,造成经销环节混乱,恶性竞争激烈。过度的竞争已使大多数企业微利或者出现亏损,把整体行业拖入了一个恶性循环的怪圈。构建科学、合理、有效的经销商评价体系,实现A公司的经销商渠道结构优化,以适应竞争与扩张的需要,是本文主要的研究内容与意义。本
在信息技术飞速发展的时代,我国对电子政务的建设给予了高度重视,这极大地促进了电子政务与信息技术接轨,加快了电子政务的发展进程。而访问控制作为电子政务重要的安全保护
养老保险是国家对公民的一种普惠制社会福利,是现代文明的产物,是民主社会的象征与标志。随着中国特色社会主义的快速发展,养老保险制度也在不断的完善。越来越多的人民群众
密钥是保证Android设备安全的重要组件之一,密钥的生成与使用均需要用到随机数,生成高质量的随机数需要高熵值的随机源。另一方面,移动广告等业务对不同的Android设备提供个
随着近现代以至新中国成立以来美术课程性质的不断发展与转变,现代教育资源与教育理念的极大丰富,义务教育阶段中美育越来越受到人们的重视,各地区中小学提倡素质教育,建立起
近年来,随着移动设备的应用日益普及,人们对移动网络和移动自组织网络(MANET)的需求也在不断增加。在此背景下,如何共享资源,特别是如何满足移动用户对资源的需求,已经引起了
在21世纪的今天,人口老龄化已经成为了一个全球性的问题。而这个问题又引起了非常多其他的问题,其中之一就是用人成本不断增加,这一问题对于一些依靠劳动力的行业而言无疑是巨大的冲击。对于建筑业来说这一问题也无法避免。3D打印技术的出现可以说为一些问题的解决提供了更好的方案,尤其是对于建筑行业。将这项技术用于建筑行业也证明了解决这些问题可以通过智能制造的方式。3D打印技术在近10年来的开展堪称迅猛,其使用