【摘 要】
：
学习理论自产生以来,已迅速发展成为一门既有理论又有应用的学科,其两方面的研究都取得了丰硕的成果。它试图在数学框架下对学习领域中使用的各种算法进行解释,其核心内容是研究各种学习算法的一致性和学习速率。前者是一种定性分析,而后者则是一种定量分析。本文主要研究基于再生核Hilbert空间的正则化最小二乘回归学习算法。这类算法是基于Tikhonov或Ivanov正则化的风险最小化的凸优化方法。这里,我们主
论文部分内容阅读
学习理论自产生以来,已迅速发展成为一门既有理论又有应用的学科,其两方面的研究都取得了丰硕的成果。它试图在数学框架下对学习领域中使用的各种算法进行解释,其核心内容是研究各种学习算法的一致性和学习速率。前者是一种定性分析,而后者则是一种定量分析。本文主要研究基于再生核Hilbert空间的正则化最小二乘回归学习算法。这类算法是基于Tikhonov或Ivanov正则化的风险最小化的凸优化方法。这里,我们主要讨论基于弱相关抽样的最小二乘回归学习算法的一致性分析和学习速率,方法上主要采用了积分算子和样本算子的技巧。研究内容主要分为以下几章:第一章介绍了统计学习理论的研究背景和基础知识,包括正则化学习算法的产生,基于核的正则化学习算法的研究现状,本文的主要研究内容及基本定义和引理。第二章研究基于弱相关抽样的系数正则化学习算法的一致性分析。本章我们分析了两种抽样背景下的l 2范数的系数正则化学习算法的一致性。第一节讨论了基于弱相关抽样的系数正则化学习算法的一致性,对满足强混合条件的弱相关抽样,且α系数满足多项式递减的情形,利用样本算子与积分算子的技巧给出误差界和学习速率的估计,并进一步与正则化最小二乘回归算法的学习速率进行比较。第二节讨论了一类抽样背景更一般的系数正则化学习算法。考虑的non-iid背景为,抽样是非同分布的,但样本的边缘分布序列在Holder空间的对偶空间中呈指数快速收敛;样本zi , i≥1是弱相关的,并且满足强混合条件。我们利用积分算子的技巧推导出了令人满意的容量无关的误差界和学习速率。第三章研究基于积分算子技巧的容量相关估计。本章我们主要讨论了基于与积分算子有关的两种容量条件的正则化最小二乘回归学习算法的性能。考虑的iid背景为抽样是同分布的且样本是独立选取的。我们利用积分算子的技巧把学习速率提高到了ο（ m ?β（1+ 2β））。第四章研究正则化最小二乘回归学习算法改进的一致性分析。本章我们主要考虑了正则化最小二乘回归学习算法和l 2范数系数正则化学习算法的一致性分析,通过利用积分算子技巧和取值于Hilbert空间的Bennett不等式,改进了以往的误差界和学习速率。
其他文献
近些年，我们见证了脉冲微分方程理论的快速发展。脉冲微分方程是用来描述自然界发展过程中瞬时扰动的一类数学模型。由于脉冲微分方程在物理学、化学、种群动态学、生态学、生物系统、控制系统等方面的广泛应用，越来越多的学者开始探究脉冲微分方程理论，尤其是脉冲微分方程振动性理论。本文我们研究了几类脉冲微分方程的区间振动性，并分别建立了它们的El-Sayed型和Kamenev型振动准则。各章节内容安排如下：第一章
数学课堂要关注学生的学习过程,创设开放的学习时空,鼓励学生主动探究,重视学生的探究体验,通过问题引领聚焦内容本质,引导他们在积极主动的思考中内化知识,在解决问题的过程中实现思维进阶,促进学力生长。为了提高探究活动的有效性,一方面要深入研究学生的认知特点和学习心理,激活他们已有的知识经验,创设合适的问题情境,制造必要的认知冲突;另一方面要注意紧扣相关数学内容的基本原理,引领学生循着知识发生、
Pawlak粗糙集理论建立在等价关系对论域分类的基础上，为处理不确定、不精确、不完备信息系统提供了理论基础，其中知识约简是粗糙集理论的重要研究领域之一。在序信息系统中，属性值大小体现了对象之间的优劣关系，Pawlak粗糙集理论不再适用。为了处理序信息系统的知识发现问题，Greco等扩展了经典粗糙集理论，提出了基于优势关系的粗糙集方法（DRSA）。知识约简包括属性约简和优化决策规则获取。本文针对几类
目的：分析基于快速康复外科（ERAS）理念的围手术期干预对开颅手术夹闭颅内前循环动脉瘤患者的效果。方法：选取2018年9月-2019年9月于深圳市中西医结合医院行开颅手术夹闭的颅内前循环动脉瘤患者61例，采用随机数表法分为对照组（31例）和观察组（30例），对照组围手术期予以常规护理，观察组围手术期予ERAS护理。比较两组胃肠道功能恢复情况、术后住院时间、住院费用、术后24 h视觉模拟疼痛评分（V
切换系统是一种包含多个连续或离散子系统的混杂系统，并由切换信号来控制它在各个子系统之间切换，它是从系统与控制论角度来研究的一种特殊混杂系统。近年来，切换系统由于其结构形式相对简单，便于理解，分析和实际应用，而被广泛的研究与讨论。在实践应用中，许多自然、社会及工程系统会随环境的变化而展现不同的的模型，如神经网络、交通控制、汽车工业等，而用切换系统可以很好地刻画出这些系统的数学模型。稳定性是研究切换系
本文的主要研究对象是学习理论中的谱正则化算法。谱正则化算法是一类基于再生核Hilbert空间（RKHS）的学习型算法，该算法通过定义正则化函数族将不同的正则化算法统一起来，进而研究这些算法的共同性质。我们主要讨论谱正则化算法的一致性及其它正则化算法相关问题。本文主要采用积分算子的技巧讨论谱正则化算法的一致性。在谱正则化算法的一致性分析中，主要的创新点有两个：第一，重新定义了正则化函数，推广了现有文
振动性理论不仅是动力方程定性理论的重要内容之一，而且在实际问题，特别是在控制领域中有着广泛应用。微分方程解的振动性是微分方程解的重要性态之一，具有非常深刻的物理背景和数学模型。近年来，随着科学技术的不断发展，这一理论在应用数学领域取得了迅速的发展和广泛的重视。为了统一连续分析与离散分析，Hilger于1988年首次提出了测度链分析理论且得到了广泛的应用。作为测度链的一种特殊情况，时间尺度非常具有代
经典粗糙集方法进行知识获取时,处理的对象大多数是具有离散型属性值的完备信息系统,也就是属性值只是一些标识对象分类的符号的信息系统。国内外学者对这一方面做出了大量的研究,并取得了丰硕的成果。然而,很多实际问题中所得到的信息系统,往往是不完备的、非离散的,如连续值信息系统、模糊值信息系统、区间值信息系统等。经典粗糙集模型难以处理这些类型的信息系统的知识约简问题或无法获得预期的效果。本文主要研究在几类非
近年来,随着科学技术的不断发展,在实际研究中,不断提出用时滞动力方程刻画的模型。所以对时滞动力方程进行研究有重要意义。动力方程的振动性理论发展迅速,包括微分方程的振动性和差分方程的振动性。1988年,德国学者Hilger首次提出了测度链分析,这是把连续分析与离散分析统一的数学理论,受到学术界广泛的关注。时间尺度是测度链的一种特殊情况,时间尺度上动力方程理论建立了一种同时处理微分方程和差分方程的方法
微分方程和差分方程在自然科学、生物学、医学、经济学和控制论等领域有着重要的地位和应用价值。时间尺度上动力方程理论作为微分方程和差分方程的统一,能更好地洞察二者之间的本质差异,还可以更精确地描述那些有时连续出现而有时离散出现的现象。所以,时间尺度上动力方程的研究具有理论意义和现实基础。本文旨在讨论具p-Laplace算子的微分方程和时间尺度上动力方程周期解的存在性问题,通过应用Mawhin连续定理、