基于深度特征融合和选择的点击率预估模型研究

来源 :东华大学 | 被引量 : 0次 | 上传用户:wdc145
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
点击率预估模型能够预测用户对广告的点击概率,是广告推荐领域的中心环节之一。现有点击率预估模型一般使用宽模型和深模型并行结合的方法来学习特征交互,深模型部分通常采用深度神经网络,但这些点击率预估模型主要有三个问题。第一,深模型DNN部分的性能还有待提升,理论上可以通过提升DNN网络层数或每层神经元数等方法来提升点击率预估模型的性能,但会导致梯度消失、梯度爆炸和参数量过大等问题,DNN的性能会根据其层数或神经元数的增加达到最优值之后,迅速下降。第二,随着研究的深入,这些模型的浅模型部分有更好的选择。第三,模型所学到的交互特征并不是都有效的,且交互特征的重要程度不一致,若使用传统的方法保留交互特征,将使得模型无法达到更优的效果。基于以上三个问题,本文研究工作与成果如下:(1)为解决传统方法提升DNN性能而带来的梯度消失等问题,提出Dense DNN网络。Dense DNN网络引入了Dense Net思想,将DNN网络前面每一层的输出之和作为下一层的输入,加强特征传播,达到特征融合,缓解了因增加层数或神经元数而带来的梯度消失等问题。(2)为选择更优的浅模型来提升模型整体性能,本文提出DDNNFMFM模型。该模型遵循目前主流点击率预估模型结构,采用深模型和宽模型并行的结构,其中深模型部分使用本文提出的Dense DNN网络,浅模型部分选择主流的Fm FM模型,通过并行结合,同时高效地学习高阶和低阶特征交互,进一步提升点击率预估模型的准确率。(3)为筛选交互特征,本文提出优化的TDDNNFMFM模型。在DDNNFMFM模型的基础上,基于三支决策思想,对交互特征进行筛选,在Fm FM模型和输出层之间增加一层交互特征选择层,加强重要的交互特征,剔除冗余的交互特征,并给一般的特征赋予权重,提升点击率预估准确率。(4)基于经典的广告数据集Criteo和Avazu进行大量的对比实验。首先,将宽模型Fm FM和深模型Dense DNN单独进行对比分析,二者的准确率均优于同类模型。其次,将Dense DNN替换主流模型的DNN部分,得到的效果均优于原模型。然后,将DDNNFMFM模型与具有相似结构的模型如Deep FM、x Deep FM和Deep Light对比,DDNNFMFM模型的AUC和Log Loss指标最好。最后,将优化后的TDDNNFMFM模型与DDNNFMFM模型做对比,体现了基于三支决策思想的交互特征选择方法能够提升模型的预测效果。(5)将本文提出的TDDNNFMFM模型应用于原型系统之中,实现平台中个性化推荐功能,研究本文所提模型的可行性和有效性。
其他文献
针对目前的目标跟踪算法在目标发生运动模糊或被遮挡等情况下跟踪效果较差,容易出现跟踪失败等情况,本文提出了一种多特征自适应融合的抗遮挡相关滤波跟踪算法。算法首先提取梯度方向直方图特征HOG和颜色直方图特征,以最大化跟踪质量为目标自适应融合两种特征的相关滤波响应;在跟踪的过程中根据响应图的质量存储高质量滤波模板,采用高质量模板和正常更新模板检测响应图的质量差值来检测目标的遮挡情况,当目标遮挡消失的时候
功能性消化不良(FD)是一种发病机制复杂的临床常见病,业内认为情志是诱发、加重FD的重要因素之一,运用疏肝法论治FD对认识该病的病因病机、改善预后具有重要意义。文章基于古籍对疏肝理气解郁及功能性消化不良的认识,分析了肝郁所致FD的病因病机;从FD的辨证分型、FD的重要诱因、FD常与焦虑抑郁共病、疏肝法结合心理干预可提高FD疗效的临床与基础研究入手总结了FD的研究现状;阐述了治疗FD应基于疏肝基础将
中俄两国已是全面战略协作伙伴关系,但双边政治与经济发展不平衡问题一直没有得到根本解决。对接"丝绸之路经济带"与欧亚经济联盟,形成地区命运共同体,对发展两国经济关系、巩固两国政治关系具有重要意义。二者对接的实现需要相关国家的基础设施合作以提供物质保证,建立中国与欧亚经济联盟自贸区是重要的经济基础。中国应利用已有的多边合作机制和人文交流机制,减少欧亚经济联盟国家对中国的疑虑,夯实民意基础。中国稳健的经
《关于人民法院民事诉讼中委托鉴定审查工作若干问题的规定》对鉴定意见的明确性提出要求,以确定性作为其核心内涵。这一要求作为法院系统应对鉴定意见可靠性审查的策略,未能摆脱“以鉴代审”的思维痕迹,反映出司法实践中鉴定意见审查适用的困境。确定性鉴定意见表述方式与科学理念、技术实践相悖,其表述形式上的确定性并不能消除实质的不确定性,而且表述偏差在司法实践中更易导致对鉴定意见的认知偏差;从规则施行初步效果考察
课堂教学离不开良好的情境,物理学科特别适宜运用情境教学,高质量情境的创设、运用对培养高中生物理学科核心素养起着关键作用。文章首先对高中物理课堂情境创设遵循的基本原则进行了分析,进一步从生活化、探究问题、多媒体运用、实验、科技、物理学史和习题等几个方面有效情境的创设进行探究,旨在运用有效的情境辅助高中物理课堂高质量、高效化开展,促进高中物理核心素养培养目标的顺利达成。
安理会改革一直是联合国改革的重中之重,因为改革不仅涉及理事国席位的增加,更关乎国际力量的调整和国际格局的演变。中国作为世界上最大的发展中国家和联合国常任理事国,关于安理会改革的政策主张有力地保证了改革沿着平稳有序的轨道前行,充分体现了负责任大国的担当。本文通过构建中国对安理会改革的政策主张受到国家实力和国家利益观的共同作用这一理论框架来分析中国政策主张的变与不变。本文首先阐述了安理会改革的缘由,提
目的 制备雷公藤红素白蛋白纳米粒(CLT-AN),并考察其体内抗类风湿性关节炎(RA)活性。方法 采用超声法制备CLT-AN,以粒径、分散指数(PDI)和稳定性为评价指标,以CLT投药量、大豆油用量和超声功率为考察因素,通过单因素实验优化处方工艺。利用透射电镜、激光粒度测定仪等考察CLT-AN的理化性质,并研究其体外稳定性和体外释放特性。构建佐剂诱导关节炎大鼠模型,考察CLT-AN对模型大鼠关节肿
近年来,衰弱逐渐成为医学界的研究热点之一。衰弱是个体衰老过程中受到身体、心理和社会等多种因素相互作用而导致的一种临床状态,该临床状态与老年人不良结局密切相关。早期识别和干预衰弱的前提是能够快速筛查老年人是否存在衰弱,精确评估存在的衰弱处于何种状态,以达到制定合理的护理干预策略。我们从区分筛查和评估两类衰弱工具及工具制定者、评估内容、应用情况和优缺点等方面进行综述,旨在为广大医护工作者和非专业人员根
小学阶段的数学课程不仅要学习数与数之间的关系,还要学习几何与空间方面的知识。小学阶段的学生一般多为形象性思维,而数学学科则具有较强的逻辑性和抽象性特点,这时的学生在数学学习过程中难免会遇到难题。数形结合是连接形象思维与抽象思维的桥梁。教师在教学过程中可以应用数形结合方法,帮助学生更快、更好地理解、掌握抽象的数学知识。本文在对数形结合思想概述的基础上,分析了数形结合教学方法在小学数学课堂教学中应用的
小学阶段,数学学科对学生的学习能力具有一定的要求,即学生不仅需要具备一定的逻辑思维能力,还需要掌握一定的思维技巧,这样才能更好地掌握数学知识,提升数学学习能力。在实际的教学过程中,小学数学教师应该积极结合数学在实际生活中的应用,提升学生的学习能力,使其通过数形结合的方式充分掌握数学知识。文章结合小学数学教学的实际情况,探讨数形结合思想在小学数学教学中的应用。