基于随机谱梯度的在线学习

来源 :计算机科学 | 被引量 : 0次 | 上传用户:aishangliuning
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
考虑一类学习问题,问题的目标函数可表示为大量组函数的平均,并且假设每一个组件函数都是光滑的。在众多机器学习方法中,在线学习操作流程简洁、收敛速度快,而且可以实现模型的自动更新,为大数据的学习提供了有利的工具。针对这类问题,提出了一种基于随机谱梯度下降(Stochastic Spectral Gradient Descent,82GD)的在线学习方法。该方法利用Rayleigh商收集目标函数的二阶信息来构造Hessian阵逆的近似。S2GD方法可以看作是谱梯度方法从确定性优化到随机优化的延伸。算法每次迭代所
其他文献
我家附近住了个傻子,他皮肤黝黑,杂乱的头发像一根根粗毛线似的缠在一起,胡子打卷,穿着破了几个洞的脏棉袄、破裤子,整个人散发着一股臭臭的气味。大家见了他,都跟避瘟神似的
如今,随着科学技术的进步,计算机技术也得到了空前的发展。计算机领域的发展改变了人们的学习和生活的方式,并间接地促进了中国实体经济的有效发展。当实体行业开始创新以适
一堂语文课,要让学生处于兴奋状态下学习,教师要进行有效的激趣,以学生为主体,把主动权交给学生,鼓励自主阅读、自由表达,充分激发他们的问题意识和进取精神,积极倡导自主、
需求侧改革是构建国内大循环为主体、国内国际双循环相互促进的新发展格局的必然要求,在总需求中消费占比最大,对国民经济的拉动作用最强。山东作为经济大省,应通过增加居民
【正】 一序说载籍中有周公东征践奄、灭蒲姑(薄姑,下同)等一段历史。后代史家一般认为商奄在曲阜,蒲姑在博兴。关于此二国之宗主族源,文献缺如,学界亦极少论证,是为千古疑案
【正】 在马克思以前的社会历史理论领域内,唯心主义一直占着完全统治的地位,因而不可能产生出真正科学的历史观,“这一方面是由于剥削阶级的偏见经常歪曲社会的历史,另一方
【正】 追溯中国传统哲学整体性思维方式之源,其基本框架早在春秋战国时期就大体确定下来。如果说,先秦诸子中的儒道两家,再加上稍后的阴阳五行家是从世界本源或本质一般思维
【正】 《管子》书中《经言》一组古文献共九篇,究竟是春秋齐国政治家管仲的遗著,还是战国时代田齐政治思想家的作品呢?这一问题,几乎成了两千年来学术史上聚讼纷纭的一大疑
通过对ABAC定义的细粒度属性进行量化映射,结合BLP和Biba强制访问模型的基本特点,试图定义一个与属性相关的安全值量化概念,然后以安全值为基础,构建一个可以计算的封闭环境
针对复杂背景下的文本检测问题,提出了显著性检测与中心分割算法相结合的文本检测技术。对于输入的图像,首先分别使用前景与背景作为标准的显著性检测方法,背景检测时将图像