基于增强型注意力网络的点击通过率预估方法

来源 :重庆邮电大学 | 被引量 : 0次 | 上传用户:wlck_dong
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
从新闻信息流到社交、购物等应用场景,广告推荐无处不在。点击通过率预估作为广告推荐中的一项核心任务,一直以来都是学术界和工业界关注的热点。通过提高点击通过率预估效果,一方面可以改善用户浏览体验,另一方面还可以提高平台方收益。近些年,随着深度学习技术在多个任务领域取得成功,点击通过率预估模型也由早期的人工提取特征信息逐渐转变为神经网络自动学习特征信息。基于深度学习构建的预估模型在一定程度上提高了点击通过率预估效果,但它们仍然存在着特征重要性学习不足和特征交互低效等问题。针对以往模型在对点击通过率进行建模预测时存在的不足,本文提出了一种基于增强型注意力网络的点击通过率预估方法,用于动态学习特征重要性和特征交互信息,其主要由注意力层、双线性交互层和全连接神经网络层构成。注意力层的多尺度多头自注意力机制通过设置不同尺寸子空间以增强特征重要性学习能力,在得到特征重要性后,本文进一步采用张量积双线性交互补充学习特征组合信息。最后,本文通过对注意力的子空间尺寸大小,张量积交互形式,神经网络层数和节点个数等进行定量分析,确定了模型的最佳参数。实验结果证明,在公开数据集上,本文提出的预估模型相比已有模型拥有更好的预测能力。为了提高模型推理效率,本文在上述方法的基础上进行了轻量化改进。首先将注意力层中多尺度多头自注意力模块的部分参数用随机采样的原始特征代替,降低注意力模块的复杂度。然后使用计算空洞卷积特征交互代替原交互模块,引入自定义膨胀公式,达到灵活交互目的。最后,为了弥补参数量减少导致的模型预估效果变弱问题,本文针对相关领域数据集普遍存在的类别不平衡现象,引入了权重调和对数损失函数,基于代价敏感思想,对分类错误的样本进行着重学习。实验结果表明,轻量化改进后的模型,虽然损失了部分预估精度,但模型的参数量却因此减少,训练时间也得到改善,有利于模型进行下一步部署。
其他文献
三维点云配准是计算机视觉和计算机图形学领域的一个基础研究问题,其应用包括增强现实、物体姿态估计和三维重建等。它的目标是预测刚性变换,将源点云与目标点云对齐在同一坐标系中。目前,基于深度学习的点云配准方法相较于传统方法有着推理速度快,配准精度高等优势,因此备受研究者们的关注。然而,现有的深度学习方法在部分到部分的点云配准中表现不佳,因为大量离群点的存在严重影响了这些方法的有效性。此外,现有的一些方法
学位
目的 比较髌上入路和髌下入路髓内钉治疗胫骨干骨折的临床疗效,为胫骨髓内钉入路方法的选择提供指导。方法 回顾性分析2018年1月—2019年12月安徽医科大学安庆医学中心骨科收治的54例胫骨干骨折患者资料,均采用髓内钉内固定手术,根据手术入路的不同分为髌上入路组(25例)和髌下入路组(29例)。比较两组手术时间、术中出血量、术中X线透视次数、术中二次位移发生率、骨折愈合时间、术后膝前疼痛发生率、改良
期刊
随着网络的飞速发展,移动互联网、远程办公等新型应用场景逐渐走进人们的生活,传统网络安全防护手段存在的弊端也日益凸显出来。传统的认证方式局限于对单一用户进行身份认证,合法用户也是以粗粒度的形式来管控,攻击者往往可以利用身份伪造或偷取令牌来冒充合法用户。与此同时,传统网络缺乏用户信息的隐私保护,导致用户的个人隐私遭到了严重泄露。因此,对用户的身份进行安全认证和隐私保护已经成为了一个亟需解决的问题。零信
学位
<正>1引言为了培养学生的创新精神和实践能力,使教育更好地满足社会经济发展和国家对人才培养的要求,我国越来越重视对综合实践、课题学习、数学探究、数学建模这些课程的探索和落实,在课标中提出了多项重要举措,促进了教、学和评价的变革.《普通高中数学课程标准(2017年版)》(下面简称“2017版课标”)[1]将“数学建模”列为六大数学学科核心素养之一,同时将“数学建模活动与数学探究活动”作为高中数学课程
期刊
私密比较是安全多方计算领域中一个重要应用,指参与者在能够保证安全性和隐私性的前提下比较私密信息的大小关系。量子私密比较(Quantum Private Comparison,QPC)使用量子作为计算资源,以量子力学的特性保证协议的安全性,相比经典私密比较协议能够提供更强的安全保障。量子私密协议在电子选举、无记名投票、门限签名等实际场景中有重要的应用。目前的QPC协议中大部分都处于理论研究,这是由于
学位
随着传感器技术的发展和普及,遥感已经成为人们获取地面信息的重要途径之一。高空间分辨率的多光谱图像在军事国防、精细农业、地质灾害检测等领域都得到了广泛的应用。而全色锐化是遥感图像处理领域的一项基础而重要的任务,利用全色图像的高分辨率空间细节来增强多光谱图像的空间分辨率。随着计算机视觉领域中深度神经网络的发展,深度神经网络在全色锐化中的应用引起了越来越多研究者的重视。目前的大多数全色锐化方法普遍缺乏将
学位
近年来,智能设备走进千家万户,万物互联使得各行各业都产生了海量的信息,其中不乏含有小到个人的隐私图像,大至国家的机密图像在互联网上进行传输,这也随之而然地出现一系列问题,其中最严重的当属在公共信道传输过程中的数据安全问题。当数字图像在公共信道上传输时,保护图像数据信息最简单而又有效措施是利用某种技术将图像加密之后再进行传输。发送方使用图像加密算法将原始图像加密成为一幅无意义的噪声图像,而接收方使用
学位
近来,多标签分类任务的应用领域变得越来越广泛,因此对该问题的研究也变得愈发重要。然而,类别不平衡问题是多数多标签数据集固有的一种特征,它影响了大多数多标签算法的分类效果。目前,解决这个问题的主流方法可以划分为四个类别:重采样法、分类器适应法、集成法和成本敏感法。在这其中,重采样法被认为是一个比较有效的策略,该方法是在分类器对多签数据集进行训练前,先使用重采样技术对数据集进行处理。这是一种独立于分类
学位
多姿态人脸识别在计算机视觉中占据着重要的地位,其中最常见的研究方法为2D方法和3D方法。2D方法包括:不变特征的提取、虚拟视图重建、回归模型;3D方法包括:基于标定点的模型建立、基于像素的模型建立。针对2D方法中存在的缺陷,本文致力于结合传统特征和深度特征,提取人脸图像边缘梯度方向信息、尺度及旋转不变信息并应用于多姿态人脸识别。首先,提出一种增强边缘梯度方向信息的二值卷积神经网络。其次,提出一种尺
学位
当前,在图像处理方面,卷积神经网络和生成对抗网络都有着不错表现,已经提出了几种针对神经网络的遥感图像融合方法,但是大多数方法都缺乏关于遥感图像领域的专业知识与结合实际应用处理。受到多对抗生成对抗网络思想的启发,本文创新性地提出了一种针对全色锐化的多对抗的生成对抗网络框架,提出的网络采用多对抗训练模式并融入遥感图像领域的特定知识。首先,在生成对抗网络的对抗过程中使用了一种对抗方式——多对抗。将生成器
学位