论文部分内容阅读
在当前信息化时代,由于信息的大量产生导致了信息爆炸,因而引起了信息过载,这是人们需要面对的一个困境。推荐系统通过根据用户的需求来个性化地满足用户的需要,成为缓解这一状况的有力工具。因为它可以快速地将信息生产者生产的信息展现到需要它的信息消费者面前,从而实现信息生产者和信息消费者的双赢。现在,在电子商务、信息分发、音乐视频等等信息技术行业发挥着重要的作用,例如:淘宝上的商品推荐、今日头条上的新闻推荐、网易云音乐上的音乐推荐等等。传统的推荐算法大体可以分为协同过滤算法、基于内容的推荐算法和混合推荐算法。其中被广泛使用的是协同过滤算法,根据已产生的用户与物品之间的交互记录来提取用户的行为偏好,根据提取出的模式来为用户做推荐,在协同过滤算法中,矩阵分解一直是研究的前沿。基于内容的推荐是根据用户已交互的内容的属性信息来推荐具有相似属性的内容,所以有一个很好的特点就是可以对推荐做出解释,更让用户信服。混合推荐算法是融合用户与物品的各种信息如性别、年龄、地区、文本、图像、标签等等这些多源异构信息(Side Information)来进行推荐,可以有效缓解冷启动和数据稀疏问题。本文对于神经网络在推荐系统上的应用进行研究,特别专注于神经网络应用于矩阵分解。针对现有模型的问题如:表示能力有限、无法有效应对稀疏数据集等,本文对其进行了研究,提出了以下解决办法:1.针对于模型表示能力有限和无法有效应对稀疏数据集的问题,提出深度矩阵分解模型(Deep Matrix Factorization,DMF),根据用户的历史打分信息构造包含显式打分和隐式反馈的输入,使用多层次非线性变换来将用户和物品映射到同一个深度结构化语义空间,使得在这个空间中可以使用余弦函数来计算用户和物品之间交互的可能性,根据预测出的交互的可能性来进行推荐。2.针对于交叉熵损失函数未考虑打分高低对于全局的影响的问题,设计了一个新的损失函数,规范化交叉熵损失函数(Normalized Cross Entropy,NCE),实验中也证明了 NCE的有效性。3.针对于DMF中用户(物品)对于不同物品(用户)状态始终不变的问题,提出了基于注意力的深度矩阵分解(Attention based Deep Matrix Factoriza-tion,AttnDMF),结合注意力机制的特点,使得用户(物品)对于不同的物品(用户)所展现的状态有所不同,从而使得AttnDMF更具有个性化,获取更好的推荐效果。对于本文提出的深度矩阵分解模型、规范化交叉熵损失函数和基于注意力的深度矩阵分解模型,其相关的原理和实现公开在①。本文在多个数据集上进行了广泛的实验,证明其可以获得更好的效果,同时也分析了它们对于超参数的敏感性。