基于深度兴趣网络的点击率预估模型的研究与实现

来源 :吉林大学 | 被引量 : 0次 | 上传用户:shrimpdragon
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
点击率预估是推荐系统和在线广告平台中一个关键的环节。作为直接影响公司营收、提升用户体验的关键技术,点击率预测问题一直是工业界和学术界研究的重点。近年来,人工智能技术在搜索引擎及视觉语音等众多领域中取得了突破性进展,各研究机构和互联网企业纷纷将相关技术应用于点击率预估问题,取得了许多出众的成果。本文通过分析经典点击率预估模型的结构特征和应用场景,发现在点击率预估问题中,主要存在两点挑战:其一,预估模型输入的特征具有规模大、维度高等特点。因此,如何从这些特征交互中捕获有效信息,成为提高点击率预估准确率的关键。其二,用户行为序列包含用户隐式与显式的反馈信息,如何从序列中精准挖掘到用户的兴趣,也是许多研究者关注的重点。本文工作立足于特征的交互和用户行为序列建模,以此为基础对现有模型进行改进,提高点击率预估的准确性。本文的主要工作以及成果如下:(1)本文选择深度兴趣网络(DIN)模型作为基准模型进行研究,分析DIN模型的优势及缺陷,提出了深度兴趣因子分解机(DIFM)模型。DIFM模型在DIN模型的基础上进行了两点改进:其一,DIFM模型中,对用户行为序列建模使用Transformer结构,相比DIN模型中使用带目标注意力机制激活单元,Transformer结构通过多头自注意力机制能够更好的对用户兴趣进行表示。其二,在DIN模型的基础上增加了因子分解机(FM)模块,通过FM捕获低阶特征交互信息,使模型能够同时兼顾低阶和高阶特征交互信息。在Movie Lens和Amazon两个数据集上进行实验,通过对比分析证明了本文所提DIFM模型的性能的优越性,通过消融分析证明了Transformer和FM模块的有效性。(2)本文提出了深度多兴趣网络(DMIN)模型,DMIN模型在DIN模型的基础上进行了两点改进:其一,使用两层门控循环单元(GRU)对用户行为序列建模,第一层GRU用以表示用户初步兴趣,第二层GRU结合目标注意力机制用以表示用户最终兴趣。通过GRU能够考虑行为序列背后各个行为的依赖关系,使模型表达能力更强。其二,通过目标注意力机制对上下文信息、用户画像等特征进行处理,将细粒度的特征信息用于点击率预估。在Movie Lens、Amazon和Userbehavior三个数据集上进行实验,通过对比分析证明了DMIN模型相比DIN等模型性能更加优越,通过消融分析证明了DMIN模型中各个模块对模型性能均有不同程度的影响。
其他文献
目的:通过回顾性分析是否合并无症状脑梗死(Silent brain infarction,SBI)在首发症状性脑梗死患者中的差异,探究无症状脑梗死在首发症状性脑梗死患者中的患病率、TOAST病因学分型、危险因素等方面的特点及其临床意义,以期更好的指导临床对无症状脑梗死的认识、预防及治疗。方法:本研究将2020-2021年期间至我院入院的急性脑梗死的患者作为主要的筛选对象,选取首发症状性脑梗死患者2
学位
目的:探讨早发型子痫前期(early-onset preeclampsia,eo PE)与晚发型子痫前期(late-onset preeclampsia,lo PE)患者外周血及胎盘滋养细胞线粒体融合蛋白2(mitofusin,Mfn2)的表达,初步确定该基因可能作为子痫前期的诊断和治疗靶点;探讨eo PE与lo PE两时期Mfn2的表达有无差异,为探讨两者之间发病机制提供实验数据。方法:1.收集
学位
目的:比较腹腔镜下经自然腔道取标本与腹腔镜下小切口治疗结直肠癌的临床疗效差异,以期为临床结直肠癌手术方式的选择提供指导和依据。方法:选取2019年1月至2020年12月于吉林大学中日联谊医院胃肠结直肠肛门外科住院的确诊为结直肠癌且符合纳入标准的患者共57例。对57例患者资料进行回顾性分析,根据患者选择手术方式不同进行分组,其中NOSES组30名患者接受腹腔镜下经自然腔道取标本手术治疗,小切口组27
学位
随着人工智能的快速发展,机器视觉技术在我们的生活和生产中应用的越来越广泛。针对盲人因视觉受限,难以及时、准确地感知周围环境的问题,本文提出利用机器视觉技术获取距离、目标信息的方法来便捷盲人的日常生活。本文将双目测距技术与目标检测技术相结合,可快速、准确地检测出盲人前方的物体种类,并计算出物体与盲人之间的距离。具体研究内容如下:一、研究相机成像原理及标定方法。首先确定了相机成像模型中的四个重要坐标系
学位
目的:对比择期腹腔镜全子宫切除术患者应用羟考酮或舒芬太尼超前镇痛的效果。方法:选取吉林大学中日联谊医院2021年择期全麻下行腹腔镜全子宫切除术的患者60例,将60例患者随机分为羟考酮组(O组)、舒芬太尼组(S组),每组30例,术前评估患者情况。两组患者年龄30-60岁,体重指数(BMI)20-30kg/㎡,ASA分级I~II级,疼痛敏感性量表评分4-6分,手术时间、术中失血和病情等基本资料相仿。两
学位
背景:胶质母细胞瘤是神经系统最常见的高度恶性胶质瘤,预后不良,经肿瘤手术、放疗、化疗等综合治疗后,平均生存时间仅为18个月,肿瘤的复发、耐药均是预后不良的主要原因,多药物、多治疗方案联合应用的管理方法可能成为延长胶质母细胞瘤患者生存期的有效手段。脂肪抑制素最早作为甾醇调节原件结合蛋白(SREBPs)的特异性抑制剂应用于研究代谢综合征,后被发现可通过依赖或不依赖SREBPs的途径抑制多种肿瘤。不依赖
学位
我国地域辽阔,文化发展繁荣昌盛,独特的非物质文化遗产种类繁多。凤阳花鼓非遗文化在滁州旅游文化产业中,传承发展至今日,承载着人类的生活印记,是历史留给人们的宝贵财富,为设计文创产品提供了良好的客观条件及基础。本文开展凤阳花鼓视觉元素文创产品及包装设计的研究,探析文化创意产品及包装的开发设计实践。逐一概述凤阳花鼓非遗文化特色及形成原因,并详细介绍了凤阳花鼓非遗文化起源萌芽及发展融合,为凤阳花鼓非遗文化
学位
背景及目的:胰十二指肠切除术(pancreaticoduodenectomy,PD)是在1935年由名叫Whipple的一名美国外科医生首先用来治疗壶腹周围癌的手术,因此又被称为Whipple手术。Whipple手术是治疗壶腹周围恶性肿瘤、癌前病变和部分良性疾病的标准术式,手术的操作相对来说很复杂,对病人机体的伤害比较大,并且术后可能出现的并发症比较多。微创外科蓬勃发展,腹腔镜下开展的PD在国际上
学位
随着人机交互技术的进步和社会经济的发展,智能机器人在我们的日常生活中发挥着越来越重要的作用。其中可直接与人互动交流、服务于人类的语音机器人,更是走进了千家万户,它们被广泛应用于智能家居、智慧交通和智慧医疗等领域。对于一些特定的应用场景,比如家庭陪伴,要求语音机器人外观小巧精致,体积不能过大,还得具备一定的负重能力,保证机身内部能容纳下电机和电池等必要零件。由于机器人的外形壳体是内部空间的反映,在容
学位
随着移动互联网的快速发展,众多自媒体APP喷涌而出,大大丰富了人们的生活,但与此同时也积累了海量的文本信息。自动文本摘要技术能从繁杂的文本中提取出主旨信息,过滤无关内容,提升人们的工作效率。目前,序列到序列(Seq2Seq)模型成为自动文本摘要技术中的主流研究方向之一。Seq2Seq模型由编码器和解码器两部分所构成,它能够灵活地处理输入输出数据,应用非常广泛。虽然Seq2Seq模型在文本摘要领域中
学位