基于伪标签注意力集成的多标签分类研究

来源 :天津工业大学 | 被引量 : 0次 | 上传用户:ash0
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
多标签分类旨在为每个未知实例预测多个标签,是机器学习中被广泛研究的一类重要课题。多标签分类在真实世界中有许多典型的应用,包括推荐系统、文本分类,音乐/图像分类等。人们从研究单标签分类到探索标签之间相关性的多标签分类,尽管已经提出许多有效的算法,但多标签分类研究依旧存在以下关键难点:如何有效的探索标签之间复杂的相关性;如何处理呈指数级标签输出空间。这些难点都使得多标签分类研究具有挑战性。本文就围绕对呈爆炸级的多标签输出空间在要求保留更完整的特征信息情况下如何有效地降维、以及如何更有效地探索多标签之间的相关性这两个方面出发,提出新的基于伪标签注意力集成的多标签分类模型。引用编码-解码机制,将原始标签空间编码到低维的伪标签表示空间,其中,伪标签表示空间是学习到的真实标签的公共隐语义,并通过学习伪标签表示矩阵与真实标签之间的潜在相关性,再从伪标签矩阵中解码出预测的完整标签空间;除此之外,受到集成学习的启发,在特征编码中,以多层感知机加注意力网络作为学习器,结合多个学习器,将特征映射到低维的伪标签表示空间,其次,为了确保多个学习器的多样性和互补性,引入两种可选择的多样性正则项,生成两种模型。并在多个基准数据集上做大量实验对比,都证实了论文提出的多标签分类算法更高效更具有鲁棒性。本文提出的模型的主要贡献:1.为了更好的处理指数级的多标签输出空间,降低计算成本和内存需求,利用编码-解码机制,以更“软”的方式提出伪标签表示矩阵来降低标签空间,并捕获标签之间的潜在相关性。2.为了更高效的探索多标签之间的依赖关系,集成多个注意力网络进行特征嵌入,使得可以充分利用来自多个不同视角的特征信息。此外,引入指数和hinge多样性正则项来确保多个学习器的多样性和互补性。
其他文献
废弃电器电子回收利用产业是兼具经济增长和环境保护双重功效的新兴产业,与之相应的、适宜的电子废弃物回收模式对于该产业的发展具有重要意义。电子产品闭环供应链中各节点企业如何选择合理的回收模式,是引导企业加入回收工作,形成高经济价值产业链的关键问题。为此,本文以电子废弃物为研究对象,以实现经济和环境协调发展为目标,开展电子废弃物回收模式对比研究,本文主要工作如下:首先,介绍了电子废弃物回收利用的现状,通
学位
深度学习是人工智能领域的重要研究方向之一,其目的是使人工智能算法通过样本数据的学习,获得类似人脑一样可以分析和解决问题的能力。近年来基于深度学习技术的目标检测算法由于其出色的检测精度,且与传统方法的目标检测算法相比具备更强的鲁棒性和泛化能力,已经应用在智能安防、无人驾驶、智慧城市等多个领域。在深度学习目标检测技术带来便利的同时,该项技术的落地也同样面临着挑战,现有的人工智能系统大多数使用CPU+G
学位
随着互联网新时代的到来,计算机技术与应用生态进入了高质量发展阶段。网络用户在享受网络带来的大数据红利的时候,也面临着信息超载等难题,导致用户无法快捷地、清晰地筛选出有效数据或其感兴趣的信息。本文所阐述的推荐系统便可以主动地为用户推荐个性化信息,从而提高用户的体验满意度。传统的推荐系统面临着数据稀疏和冷启动等问题,这些问题严重制约了系统的推荐性能。本文研究目的就是构建高效率的融合知识图谱的推荐模型,
学位
目前,机器视觉的主要研究方向分为:图像分类、图像分割和目标检测。其中图像分类是计算机视觉中的经典研究问题。很多计算机科学家都对该问题进行了探索。本文分析了深度学习技术的研究现状,以神经网络理论为基础,主要的工作内容如下:本论文尝试着将经典卷积神经网络模块化。将Inceptionet和Resnet模块化后进行连接,适当调整超参数,求得了一个比之前方法相对更好地模型。其效果在准确率和LOSS曲线中得到
学位
气液两相流是多相流中最常见的形式之一,在能源、化工、航天等行业中广泛存在。发展气液两相流场测试技术,掌握气液两相流的运动特性,对于提高工业生产效益具有重要意义。本文以气液两相流中的气泡作为研究对象,提出了基于多目视觉的气泡流场三维重建方法,获得了流场中气泡的三维空间分布,为进一步研究流场中气泡的运动特性奠定基础。本文设计并搭建了一套气泡图像采集系统,利用三个相机从不同角度获得了气泡的运动图像。然后
学位
近年来,癌症发病率逐年递增,严重危害人类健康,已经演变成人类死亡的罪魁祸首。传统化疗药物如紫杉醇、阿霉素,具有治疗效果差、水溶性差、毒副作用大、体内血液循环时间短以及药物递送效率低等诸多劣势。为了提高药物体内抗肿瘤效果,同时降低其对机体毒副作用,研究者们设计开发出了多种响应型纳米药物。本文中我们首先合成了肿瘤微环境过表达MMP 2/9酶响应的TPGS3350-GPLGVR-DOX前药和Caspas
学位
在互联网金融的巨大压力下,一成不变的绩效考核阻碍着银行的发展,这使得不少商业银行开始谋求对传统绩效评价的改变。绩效考核体系在提高商业银行核心竞争力中发挥着非常重要的作用,因此应建立先进的绩效考核体系并对其进行完善。在本文的研究中,以YJ分行为案例展开研究,分析当前所处的现状,发现还存在大量的弊端。因此对于银行而言,不断完善绩效考核体系具有非常重要的现实意义。首先,本文阐述了国内外的研究现状,构建出
学位
为研究高粘度改性沥青紫外光氧老化特性,制备和开展了不同高粘度改性沥青、不同紫外老化历时后材料常规性能测试,通过FTIR技术对材料特征官能团变化规律进行分析。结果表明:高粘改性剂能够有效改善沥青高温性能、抗剪切性能和抗老化性能。在紫外老化中沥青老化行为主要是基沥青吸氧老化和高粘改性剂的分解,两者共同作用导致沥青性能下降。常规性能测试和红外光谱试验结果表现一致,SBS+12%改性沥青的抗紫外老化性能最
期刊
广州开发区西区支行位于广州黄埔区西区,地处广州东部,东临东江,南接东莞麻涌,广州保税区坐落其中。过往,保税区内中小企业众多,涵盖保税仓储、出口加工、转口贸易等业务范围。近年来,随着开发区发展规划的调整,发展重心逐步转向科学城板块,政府机构和各家企业都陆续迁至科学城、知识城,西区呈现出产业转移和人口净流出的现象。2021年,面对周边企业陆续迁走的不利局面,西区支行及时转变经营思路,认真落实总行“打造
期刊
阻燃沥青的路用性能对隧道安全尤为重要,而阻燃剂种类及掺量、阻燃沥青的老化和微观结构等对阻燃沥青的性能影响较大。以水硼酸锌、十溴二苯醚、三氧化二锑三种阻燃剂和基质沥青为材料制备了10组沥青样品,采用红外光谱(IR)、扫描电镜(SEM)和热重分析(TGA)等方法,分析了阻燃剂种类及掺量对阻燃沥青性能的影响,观察了老化前后沥青微观结构的变化,研究了阻燃剂和沥青间相互作用的机理。结果表明:阻燃剂掺量不宜过
期刊