基于BERT的深度学习推荐算法研究

来源 :东北师范大学 | 被引量 : 0次 | 上传用户:try111
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
推荐系统作为可以解决信息过载问题的重要方法,它能够帮助人们从很多复杂的数据中找到其可能感兴趣的信息。但是现存的推荐技术仍然有很多历史问题,如数据稀疏、冷启动等问题。为了解决上述的历史问题,将物品的描述信息作为辅助信息融合到推荐系统里面已经被证明是非常有效的方法。但是在目前推荐系统的研究中,将文本内容的特征填充到协同过滤算法中,大多数研究在提取文本内容时采用传统的提取文本特征方法,不能有效的结合句子中的上下文,只能对单个词进行分析计算。本文提出应用自然语言处理模型BERT,该模型可以提取文本的特征,来深度挖掘句子中的语义相关性。本文主要使用神经网络搭建的自然语言处理模型BERT对文本信息进行建模,可以在文本中获取文档的上下文语义与关键词信息,提取的特征属性能够更好地应用于评分预测推荐任务。该方法用物品的描述文本信息代替原有的one-hot向量作为物品的输入,然后BERT模型对该文本向量矩阵进行特征提取。将提取到的物品特征向量和用户的特征向量送入矩阵分解的机器学习模型中进行训练,以此来时实现两者的交互形成新的潜在向量。最后将潜在向量经过神经网络学习得出预测评分,再与实际评分计算损失函数进行反向传播训练模型。为了验证本文构建的基于BERT的深度学习推荐模型的推荐性能,我们在MovieLens 1M,MovieLens 10M和Amazon Instant Video三个真实数据集上进行了测试。RMSE值分别为0.7667,0.7758,0.7803。实验结果表明,本文提出的DeepBert模型在基于物品描述文本信息的评分预测任务中具有较好的推荐性能。
其他文献
中国经济由高速增长阶段转向高质量发展阶段,农业作为国民经济的基础,也要适应并遵循这一趋势,向高质量发展阶段迈进,而农业的高质量发展对于保障中国粮食安全、减少贫困发生
1月27日,北京市东城区公安分局在北京的王府井小吃街上进行了一场惊心动魄的消防灭火演习。在一个4平方米的木屋里,燃起了2米高的熊熊大火,5秒钟后,大火被快速熄灭了。这就是
目的 比较徒手牵引侧卧位与仰卧位股骨近端防旋髓内钉(PFNA)固定治疗股骨转子间骨折的疗效。方法将58例采用PFNA固定治疗的股骨转子间骨折患者根据手术体位不同分为侧卧位组(
<正>很高兴能受邀出席商务印书馆《作为武器的图书》的出版座谈会,和业界的新老朋友就这部重要译著的出版和其所主张的价值观念交换见解和看法,同时也是为它的发行传播做一些
期刊
为适应国家对应用型人才的需求,从2009年开始,硕士层次研究生教育以专业学位研究生培养为主的新政策确立。在培养规模快速扩大的同时,专业学位研究生教育出现了一些亟待解决
目的:对寄生于桑树与寄生于夹竹桃上的桑寄生进行显微鉴别特征研究,为该药的鉴别和开发利用提供参考依据。方法:采用组织显微鉴别法。结果:寄主为夹竹桃的桑寄生与寄主为桑树
<正>聂莉芳教授系我国著名中医肾脏病专家,全国第四、第五批名老中医药专家,从事肾脏病临床、教学、科研工作40余载,学验俱丰。她在慢性肾脏病的遣方用药,特别是药味的配伍上
无线电能传输技术(Wireless Power Transfer,WPT)以其便利性和安全性,在电动汽车、高压线路监测设备、无尾家电、无线传感器网络、植入式医疗器械、油气井与水下电气设备等领
<正>2017年6月,拥有"互联网女皇"之称的玛丽·米克尔发布了《2017年互联网趋势报告》。报告指出,互联网广告的市场占有率将迅速超越传统广告,成为投放焦点。而未来领先的广告
互联网时代背景下带来了全新的变革,信息处于高速发展与信息爆炸的时代,现代信息技术已经被应用到各个领域当中,推动社会的快速发展。高校排球教学实践也已经在互联网时代背