关于样本复杂度与推广能力的若干问题

来源 :湖北大学 | 被引量 : 0次 | 上传用户:liongliong586
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
学习算法的样本复杂度与学习机器的推广能力在学习理论中都占有重要地位,本文研究了关于这两方面的若干问题.第一部分回顾学习理论的基本框架,介绍了学习问题的一般表示和学习的三大主要问题:模式识别,回归估计,概率密度估计;并介绍了统计学习理论中的经验风险最小化(ERM)归纳原则及学习机器常用的几种假设空间.第二部分给出PAC模型一个推广形式,在这一推广模型中,我们不仅证明了有限{0,1}-函数类的任一样本误差最小化(SEM)学习算法都是其学习算法,而且证明了具有有限VC维的{0,1}-函数类的任一SEM算法亦是它的学习算法.同时给出在这两种情况下对应算法的样本复杂度的上界估计,并运用A.Ehrenfeucht等给出的{0,1}-函数类学习的样本复杂度的一个下界来讨论了几个典型布尔函数类学习的样本复杂度.最后一部分,针对基于ERM原则的回归估计问题,在无限维再生核Hilbert空间(RKHS)中半径为R的球内我们给出了采用Huber损失函数集的回归估计机器一致收敛的一个充分必要条件,即该损失函数集的V<,γ>维是有限的,并且给出其V<,γ>维的一个上界估计,从而确保此类学习机器的一致收敛,使得它具有推广能力.
其他文献
当前J2EE技术的发展,在为开发高性能的,可扩展的Web企业应用软件提供技术基础的同时,也将软件开发置于复杂的环境之中.在Web企业应用软件开发中,设计不良的Web接口是导致不可
Jackknife方差估计方法在解决复杂样本的方差估计方面获得了越来越多的应用.最近,Zou GH(邹国华)等(1998,2002)对缺失数据情况下的样本轮换方法证明了:文中所提出的线性化Jac
本文对某些函数项随机级数的性质进行了讨论和推广,运用复分析和概率论中的结论和方法进行研究,得到更深刻的结果.本文分四部分:第一部分列举了本文研究所需的预备知识,包括
高斯和是数论中一个重要的研究对象。高斯和的计算是一个重要和困难的问题,不仅在数论和算数几何中具有理论价值,而且在计算机科学、信息科学和试验设计等方面有实际的应用。
BP(Backpropagation)神经网络是被研究得最为深入,应用最为广泛的一种人工神经网络.该文以BP网络为主题,基于大量文献论述了它的发展历史和理论基础,当前研究现状和未来发展
该文研究单面约束力学系统的基本理论问题,包括微分变分原理、运动微分方程、Noether理论、Lie对称性以及现代微分几何描述.
该文主要包含两部分内容:一部分是关于概周期型函数应用的,另一部分是关于奥尔里奇(以后都写成Orlicz)空间几何性质的.关于概周期型函数的应用,本文主要做以下四方面工作:一
随着信息技术的快速进步,信息社会对个人身份认证与识别的需求在不断增长。具有非接触性、便捷的人脸识别,已经成为应用数学与模式识别等交叉学科的研究热点。在人脸识别系统
多媒体数据库系统是基于PB6.5开发的一个完整的数据库系统.该系统实现了图片、音频和视频三种媒质的录入、删除、检索和更新,并创建了用户和后台数据库的友好交互界面.在多媒