【摘 要】
:
注意力机制是近些年来深度学习领域逐渐兴起的一种技术,由于能有效提高深度模型精度以及可解释性,注意力机制方成型便被迅速应用到各种不同的任务中。而随着近年来深度学习模型在推荐系统领域的逐渐普及,注意力机制也开始在推荐系统领域得到越来越多的关注。尽管如此,注意力机制在推荐系统中的相关研究仍处于起步状态,还有大量的能够应用注意力机制的场景未被探索。基于此,本文拟对推荐系统中注意力机制的应用进行研究,对传统
论文部分内容阅读
注意力机制是近些年来深度学习领域逐渐兴起的一种技术,由于能有效提高深度模型精度以及可解释性,注意力机制方成型便被迅速应用到各种不同的任务中。而随着近年来深度学习模型在推荐系统领域的逐渐普及,注意力机制也开始在推荐系统领域得到越来越多的关注。尽管如此,注意力机制在推荐系统中的相关研究仍处于起步状态,还有大量的能够应用注意力机制的场景未被探索。基于此,本文拟对推荐系统中注意力机制的应用进行研究,对传统域感知分解机与注意力机制的结合进行探讨和尝试。具体地,本文主要研究工作如下:1)本文基于传统的域感知分解机提出了神经域感知分解机。域感知分解机是一种被广泛应用于推荐系统的机器学习算法,可以用于评分预测、点击率预估等任务。本文尝试将域感知分解机转化为多层神经网络,并对其进行改进,提出神经域感知分解机。实验结果表明本文提出的神经域感知分解机精度超过实验中的大部分对比模型。同时该模型也为后续注意力机制的研究提供了基础。2)本文提出了基于层级注意力机制的域感知分解机。神经域感知分解机中包含的特征、域和二阶交互等概念,具有清晰的层级关系,本文使用层级注意力机制对该关系进行建模,提升神经域感知分解机的表现。本文模型的层级注意力机制包含域内特征级的注意力机制和域间二阶交互的注意力机制。实验结果表明,该模型的精度超越实验中的全部基线模型,证明了层级注意力机制在域感知分解机中的有效性。3)本文提出了对上述模型进行在线性能优化的方法。大规模推荐系统对推荐算法模型的在线性能要求较高,本文所述方法可以对用户、上下文和物品特征进行预计算,提升模型的推断速度,进而提升推荐系统的响应速度。实验结果表明,本文方法可以有效提升模型在线处理大量候选集物品时的推断速度。
其他文献
以草料和食用菌废料进行杏鲍菇的栽培试验,能循环利用生物资源。本试验以草料和废料作为栽培原料进行杏鲍菇栽培的试探性研究。结果表明草料搭配适量的食用菌栽培废料完全可
时间和空间是描述历史进程的两个基本要素,人类历史围绕时间和空间展开,离开时间和空间的历史是不存在的。时空观念是高中生感知历史的重要途径之一,也是高中历史课程标准五
【摘要】新课程实施背景下,教育更加现代化、开放化,课堂教学也应随之作出调整与变革。基于新课程下的高三数学复习教学应该如何更快速、高效,这是摆在广大教育者面前的一个重要课题。以下,本文基于此对现代教育环境下高三数学复习情况以及新课程下高三数学复习策略做出了思考与分析。 【关键词】新课程 高三数学复习 策略 【中图分类号】G633.6【文献标识码】A 【文章编号】2095-3089(2015)36
目的:探讨CT扫描时不合作患儿制动药物应用与观察.方法:204例不合作患儿分为3组,即婴儿组、幼儿组及学龄前组.在CT扫描前20min给予10%的水合氯醛、安定.剂量按公斤体重计算.结
世界各国海洋资源的开发正由浅海逐步向深海海域迈进。对海洋平台用钢的综合性能提出了更高的要求。大量研究表明,氮在钢中起析出强化,稀土在钢中起细化晶粒和净化钢液作用,可以提高钢的各项力学性能和改善钢的抗腐蚀性能。本实验通过向高强度海洋平台用钢中复合添加N和Ce,利用稀土的细晶强化作用和氮的析出强化作用来获得更好的强化效果,使海洋平台用钢的力学和耐腐蚀性能有所改善。利用Thermo-Calc软件对含氮含
可溶性有机氮(Soluble Organic Nitrogen,简称SON)是土壤氮素中最活跃的组分之一,土壤氮矿化的重要氮源,在陆地生态系统氮循环及养分平衡方面起着重要作用,同时SON的移动性容易造成水体的富营养化,并加剧土壤的N_2O排放。因此,SON受到土壤学、生态学以及环境科学等多学科的广泛关注。SON在土壤微生物的作用下矿化为无机氮,此过程受气候、土壤、植被及微生物等多种因素的影响。森林
本文对产自4个省份(甘肃省、内蒙古、青海省、新疆)15个地区的黑果枸杞分别进行种子耐盐性和枝条抗寒性试验,以期筛选出其中耐盐性及抗寒性较强的种系材料。文章主要内容包括NaCl梯度(0、55、125、200、260mmol/L)处理对种子发芽率、胚根长、胚轴长等萌发特性的影响;12h持续低温(-20、-25、-30、-35、-40℃)处理对枝条SOD、POD活性,MDA、Pro、SS、SP含量的影响