结构化数据核函数的研究

被引量 : 14次 | 上传用户:ljc2696
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
核函数是支持向量机中非常重要的一个研究方向,尽管在统计学习理论出现之前,核函数的概念与技术早已存在,但它在机器学习中真正的成功应用,是从支持向量机开始的。正是支持向量机与核函数技术的结合,才使得以支持向量机为代表的核机器学习得到了快速的发展和广泛的应用。本论文的所有工作正是基于支持向量机与核函数的结合而展开的,主要包括三个方面的内容:核函数的构造、核函数的实现以及核函数的应用。支持向量机的输入数据一般定义在向量空间,常用的核函数如多项式核、径向基核等都能取得很好的效果。但是,还有很多机器学习问题在解决的时候涉及到一些含有结构信息的数据(我们称为结构化数据),如字符串和图像等,采用这些常用的核函数往往无法取得满意的效果,因为这些数据在转换成向量时将会丢失一些结构信息。因此针对这些结构化数据的核函数构造问题,已经提出了许多新型的核函数以及实现算法。本论文以结构化数据的核函数作为研究对象,提出了一些新的核函数以及它们的实现算法;并且对已有核函数的实现进行改进,降低计算复杂度;然后将一些新型字符串核函数应用于入侵检测领域。(1)核函数的构造。在归纳和总结了现有的字符串核函数的基础上,本论文将字符串核函数划分为基于序列的以及基于概率的两大类字符串核函数。基于序列的字符串核函数比较常见,包括间隙加权核以及谱核等常用的核函数。谱核没有考虑不连续的子序列对核函数的影响,而间隙加权核函数则惩罚长度较大的子序列,实际上,在有些应用中我们应该奖励长度较大的子序列,而非惩罚。在详细分析之后,本论文提出了一种基于序列的字符串核函数,叫做长度加权核函数,在这个核函数中长度越大的子序列所占的权重越大。另外,提出了一种变种——长度加权一次核函数,在这个核函数中重复出现的子序列我们只考虑一次。基于序列的字符串核只计算在两个字符串中出现的匹配子序列对核值的贡献,而没有考虑依次出现的字符之间的依赖关系。为了在核函数中体现字符之间的依赖关系,我们依据马尔可夫模型提出了基于概率的混合阶马尔可夫核函数,它也是一种字符串核函数。(2)核函数的实现。已经有许多算法用来实现字符串核函数,包括基于动态规划的、基于后缀树的以及基于后缀核的算法。在分析了后缀核的概念之后,本论文提出了一系列基于后缀核的实现算法,能够用来解决目前的间隙核函数以及本论文提出的长度加权核函数。另外,我们将位并行算法应用于核函数的实现算法中,分析表明这种处理在一定条件下能够加快定长度加权核函数的计算。为了快速实现混合阶马尔可夫核函数,本论文采用了后缀树存储结构,并利用它的匹配统计量计算混合阶马尔可夫核函数,能够在线性时间内求出核函数的值。(3)入侵检测是信息安全中很重要的一个环节。支持向量机作为一种分类算法已经被应用于基于网络的入侵检测中,但是在基于主机的入侵检测中,由于输入数据大部分为命令序列或者系统调用序列,采用常见的径向基或者多项式核函数的支持向量机并不合适。针对基于主机的入侵检测系统,我们利用训练数据构造了基于字符串核函数的1-类支持向量机,包括现有的以及本论文提出的字符串核函数,并用这个1-类支持向量机对测试数据进行测试,实验结果表明本论文提出的一些字符串核函数比现有的一些字符串核函数更加适用于基于主机的入侵检测系统。
其他文献
<正> 在广西文艺界,人们常以赞扬的口吻,谈论着一位与癌症顽强战斗,在生命的延长线上奋勇前进的壮族诗人,他,就是莎红。莎红姓覃,名振易,广西贵县人,今年五十六岁。解放前夕,
研究性学习是学生学习方式的重要转变,以学生的发展为本,充分发挥学生的主体性和积极性,培养学生的创新精神和综合实践能力,体现了新一轮基础教育课程改革的理念,有力地推动
目的了解云南省新型农村合作医疗试点宣威市与蒙自县农民卫生服务利用公平性的现状,探索提高卫生服务利用公平性的途径。方法本研究为横断面调查。利用报表等收集2个样本县开
中国传统建筑是灿烂的中华民族文化艺术中极具独特魅力的部分,值得我们去研究和弘扬。在中国传统建筑中,门不仅具有重要的实用性,同时也是地位、财富、文化品格的一种象征。
从属专利在专利法及其实施细则中均没有明确定义,但在专利实践中,从属专利是客观存在的,当前后两个有效专利的保护范围发生冲突时,在后专利一定从属于在先专利,因而就有了从
"父亲"一直是研究余华长篇小说中逃不开的话题,余华的童年经验以及余华创作的实践影响着传统的父亲观,余华长篇小说中"生父-继父"的对立模式,反映余华对"父亲"特殊的情结即对
公共服务是现代政府的首要职能和主要职能,公共服务型政府是当代政府的基本特征。上海市人民政府提出2010年在全国率先基本实现教育现代化,卢湾区人民政府也提出在2008年在全
现代新型学校虽各具情态,但却有着共同的方向和目标:学校的民主化革新道路。《学会生存》为现代新型学校教育的民主化目标提供了明确的指向。目前,我国不断涌现的现代新型学
重新理解马克思伦理学的理论形态,对于深化马克思伦理学革命及其历史地位的理解,对于破解当前中国社会的伦理难题,具有重要的理论价值和现实意义。马克思伦理学的理论形态体
草鱼、白鲢作为我国传统的优良淡水养殖品种,一直深受广大渔农欢迎。尤其是近年来,市场多样化的需求使得草鱼、白鲢的需求量逐年递增,价格稳中有升,加上青饲料养殖草鱼成本低