贝叶斯支持向量机的数值实现方法研究

来源 :河北工业大学 | 被引量 : 0次 | 上传用户:xmzhkj
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
  支持向量机(SVM)由于其独特的优势,已得到了广泛应用。贝叶斯理论在机器学习领域扮演了相当重要的角色。SVM与贝叶斯理论的结合是一个值得关注的研究课题,二者的结合可导出贝叶斯支持向量机(BSVM),其实质是将SVM置于贝叶斯显著度框架中求解最优超参数。但是显著度框架是一种半解析化方法,在实际应用中很难获得解析解,这导致BSVM只能借助数值计算方法来实现。为此,本文主要研究基于混合蒙特卡洛(HMC)抽样法进行BSVM的数值实现,具体研究工作如下:   (1)改进BSVM的数值实现方法。由于混合蒙特卡洛(HMC)抽样法在解决随机性问题方面的优势,为此提出基于HMC抽样的BSVM数值实现方法,主要包括提出问题、构建模型、抽样、求解等。其中,抽样过程中引入了“蛙跳”技巧可以避免“随机游走”现象。BSVM的四个性能实验表明:蛙跳步数和蛙跳步长对BSVM的回归准确度影响比较大,而抽样次数对其回归准确度的影响比较小;BSVM的学习时间随蛙跳步数以及抽样次数的增加而线性增加,但跟蛙跳步长没有这样的关系;在回归方面,BSVM的优势是抗噪能力强,劣势是事先需要设定的参数较多。   (2)混合蒙特卡洛抽样的BSVM与其它方法的比较。首先,对BSVM两种数值实现方法即拉普拉斯逼近法和混合蒙特卡洛法抽样法进行比较。在比较过程中,用 BSVM 的两种数值实现方法分别去解决同一个回归问题。实验表明:两种数值实现方法的回归误差相当,但是混合蒙特卡洛抽样法的学习时间更短。当拉普拉斯逼近法的迭代次数增多时,虽然它的回归误差得到减小,但学习时间也相应显著增加。再次,对基于混合蒙特卡洛抽样法的BSVM与SVM、相关向量机(RVM)进行比较。实验表明:BSVM的抗噪能力强,方法比较稳健   (3)将基于混合蒙特卡洛抽样的BSVM用于解决超市销量数据回归实际问题。实验中用三类商品数据作为学习样本进行回归实验,每个样本集分别由超市的手撕条、山楂片、阿根廷翅尖的每月销售量组成,实验结果的回归曲线误差很小,表明BSVM具有实际应用价值。为了测试BSVM的可靠性,实验将BSVM与SVM、RVM进行比较,实验表明:BSVM的回归结果虽然没有SVM与RVM的效果那么好,但是其误差在容许范围内。
其他文献
传统模拟信号的压缩采样是先将模拟信号经过数字化处理,然后再进行压缩的过程。整个过程的第一步就是采样,模拟信号的采样需要遵循奈奎斯特采样定理。在现实中,信号真正含有的信
在无线通信系统中,信号在传输过程中由于多径效应和信道特性的不完善,不可避免的会产生码间干扰。为了得到原有的信源信号,需要在接收端增加一个均衡器来消除码间干扰,补偿信
本文通过对无线传感网络的发展现状及趋势以及水环境监测特点的研究,将无线传感网络技术应用到水环境监测中,提出了基于WSN的水环境监测基站的设计。基站采用双芯片控制设计方
  随着科学技术的发展,传统的人工监测模式越来越不能满足油田信息化的要求,为了增加原油产量、降低工人们的劳动强度、提高产油效率和油田生产管理水平,本文根据抽油机的工作
当今社会,有大量的图像数据需要处理。而且,很多领域中需要通过图像来解释现象或者得出结论,但这些图像往往会受到噪声的干扰,例如医学图像,遥感图像,考古图像等。因此,对图
  众所周知,陆地资源日益减少,人类越来越重视海洋资源的开发和利用。目前,主要是通过投弃式探头探测海水的温度(T)、电导率(C)和盐度(S)等信息,而这些信息只有与深度值一
随着信息和科技的发展,图像在我们的日常生活中越来越重要,成为我们获取信息的重要手段。传统的图像处理方式以奈奎斯特定理为准则,越来越高的采样率给硬件设备带来了巨大压力。
  无线传感器网络(Wireless Sensor Network,WSN)集成了传感器、嵌入式计算、分布式信息处理和无线通信四大技术,是一种全新的信息获取、处理和传输技术。时间同步技术是无
无线传感器网络(WirelessSensorNetwork,WSN)具有结构简单、网络拓扑变化频繁、实时性强和成本低等特点,将其应用在水环境监测和管理方面具有重要的现实意义。但WSN节点通常采
随着移动通信的迅速发展,人们越来越注重通信网络的速度和质量,这就使无线通信面临着巨大的挑战,因此,研究各种新技术,有效地提高网络质量与速率,并不断优化网络是移动通信建