基于用户兴趣网络的MMoE算法改进研究

来源 :西南财经大学 | 被引量 : 0次 | 上传用户:xujie880112
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
大数据时代,推荐系统作为解决信息过载问题的工具发挥着越来越重要的作用。对于企业来说,在利用推荐系统对用户进行推荐时,往往同时关注多个指标,例如点击率、加购率、交易率等。构建推荐系统时,面临的挑战之一是如何对多个目标进行建模。近年来,多任务学习已经成为多目标推荐的主流方法之一。在推荐领域,目前存在的大部分多任务学习模型大都使用非序列化的输入特征,但在实际场景中,用户行为通常是序列化的,上述建模方式忽略了用户前后行为之间的相关性。同时,由于现实世界推荐系统中子任务的相关性十分复杂,常用的多任务学习模型往往会存在负迁移从而导致模型效果出现“跷跷板”的现象,即一项任务的性能通常会通过损害其他一些任务的性能来提高。为了解决上述问题,本文对现有的MMoE算法进行改进,提出一种新的多任务学习模型 PMoE(Product-user interest mixture-of-experts)。该模型在输入层使用LSTM对用户行为序列进行建模,以提取到更深层的用户兴趣。同时,为了削弱“跷跷板”现象的影响,模型显式地分离了任务共享模块和任务私有模块,使其能更好地学习到任务间的相似性以及差异性。此外,针对多任务学习优化部分,本文对现有的动态加权算法进行改进,同时考虑了Loss下降速率和任务难易程度,提出了基于任务训练程度的动态加权算法(K-DWA)。在实证分析部分,本文将PMoE以及K-DWA算法应用在Kaggle公开数据集(Retailrocketrecommender system dataset)上,并与单任务学习模型以及常见的多任务学习模型的效果进行对比。最终实验证明了 PMoE在推荐效果上优于对比的方法,且能有效缓解“跷跷板”现象。同时也验证了 K-DWA算法在训练过程中确实能够加速训练,提升训练效率。
其他文献
这是一篇关于通俗小说的英译汉翻译实践报告。笔者选取了艾米丽·亨利的《我们在度假时遇到的人》为源文本。艾米莉·亨利是一位美国女作家,主要写关于爱情和家庭的小说,其读者群包括青少年和成年人。《我们在度假时遇到的人》属于通俗小说,读者群广大,主要内容是关于两个好朋友之间的浪漫故事。到目前为止,这部小说还没有中文译本。笔者选取了这本小说的序言和前两章翻译,并撰写了本实践报告。翻译理论在翻译实践中发挥着重要
学位
软件业作为信息产业的重要核心部分,早已与经济、科学、军事、生活等领域密不可分,软件业对我国国民经济水平的提升和推动产业结构调整都起到了非常重要的作用。发展软件业最关键的环节之一就是企业的研发活动,“十四五”规划中也强调了研发活动的发展目标:包括全社会研发经费投入年均增长7%以上、基础研究经费投入占研发经费投入比重提高到8%以上、战略性新兴产业增加值占GDP比重超过17%,可见企业研发活动的重要程度
学位
分布式可再生能源的大规模接入给配电系统的安全运行带来挑战,产生诸如电压越限等运行安全问题。储能作为重要的灵活调节资源,在平抑可再生能源出力波动方面发挥着重要作用。然而,当前储能研究大多围绕单一设备类型、单时间尺度调度,较少考虑混合储能或多能储能并进行多时间尺度调节,没有充分激发储能柔性调节潜力。配电系统电压调节主要依靠传统无功补偿设备,响应速度慢且无法进行连续调节。此外,现有调压方式忽略了不同时间
学位
构建以新能源为主体的新型电力系统是实现碳中和目标的关键,这一新的系统构建需要“源储网荷”协同互动。空调系统是建筑等终端用户侧的重要用能负载,在新型电力系统构建过程中需要承担哪些新的任务?新型电力系统对空调系统有哪些新要求?空调系统能够发挥什么样的作用?这些问题均亟待解答。为此,本文从新型电力系统视角出发,对空调系统提出的新需求、需承担的新任务及空调系统能够发挥的作用等方面进行了探讨,空调系统在实现
期刊
随着国家对“双碳”目标下国家粮食安全问题日益重视,农业作为基础产业其高质量、绿色、稳定发展成为治国安邦的首要之务。但是农业弱质性和农产品的特殊性使得农业发展需要国家进行必要的政策干预和财政扶持。近年来,我国“三农”总支出规模和范围持续扩大,涉及到农业综合整治与发展、扶贫、农业教育和科学、农村卫生、文化等多个领域,大多数省份都在持续探索如何利用有限的财政资金创造更大的农业收益,内蒙古作为我国主要的农
学位
改革开放以来,中国整体经济结构在经过持续三十多年的高速增长之后出现了较大的变动,基本结束了“短缺经济”时代,经济增长模式已经从供给约束型转向需求约束型,消费、投资和出口这三大因素是拉动中国经济快速增长的重要力量。过去我国经济增长主要靠出口和投资拉动,近年来,中美贸易摩擦、新冠疫情全球化使我国外部经济形势面临严峻考验;同时国内投资市场已趋于饱和,这些都表明我国未来经济很难再依靠出口和投资来拉动,扩大
学位
随着全球经济的高速发展,气候变化问题为世界各地的生态环境带来了日益严峻的隐患。自欧盟首先建立碳排放交易体系(EU ETS)之后,世界各国相继建立了覆盖多区域、多行业的碳市场,以达成各自的减排目标。作为全球最大的碳排放国,我国在近年来相继提出了“碳中和”、“碳达峰”的承诺,并把建设碳交易市场视为实现减排目标的重要路径。碳价的波动为整个产业链的上游产业带来了压力,从而影响了原始能源生产行业及下游的工业
学位
日益精细、复杂、智能化系统的出现,为现代制造业的飞速发展注入强大活力。然而,现代智能制造系统往往是在高速、高压、高温、高负荷等条件下持续运行,这极大地增加了系统的损耗和腐蚀,并极易导致各类故障。系统故障会引发产品次品率上升、生产中断、设备损坏停机等一系列问题,甚至导致人员伤亡,致使企业的利益、名誉受损。因此,为了避免系统发生故障,需要对系统进行预防性维修。通常,预防性维修决策是根据检查的结果做出,
学位
因为易逝品区别于大多数日常用品,对于易逝品的销售,首先其销售周期有限,而日常用品则几乎没有销售期的限制;其次,由于易逝品的需求随机性特点,较难进行数据收集来不断更新需求分布以实现尽快收益。综上所述,对于销售商进行售卖易逝品来说,如何尽快学习得到能够实现最大收益的需求函数是十分必要的。消费者的需求会受到价格调整等因素的影响,因此销售商可以通过动态定价技术,在有限时间内对有限库存的产品进行需求学习,可
学位
<正>"楼上住户家漏水,已经渗到我家了,与他们沟通无效,怎么办?""我马上录入,帮你联系。"问话的是大连市西岗区人民广场街道胜利社区居民周大妈,回话的是胜利社区的网格员。网格员所说的"录入",是指将矛盾纠纷录入到胜利社区365市民综合服务管理工作站,后续处理随之跟进。这是大连市以信息化为支撑推进网格化服务管理工作的一个缩影,也是大连市以信息化提升社会治理能力的又一重要实践。
期刊