基于共享子空间的多模态学习研究

来源 :北京交通大学 | 被引量 : 1次 | 上传用户:emmagarden
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
随着互联网技术的发展,各行各业每时每刻都在产生大量高维数据,人类已经进入大数据时代。同一对象的不同模态数据采集技术和多种模态数据的表征能力,使多模态数据的现实世界中的应用越来越广泛。相比传统的单一模态表征,多模态数据从多个角度对对象进行的描述,能够互相补充,提高机器学习模型的精度,因此多模态学习吸引了越来越多的研究者关注。日常生活中的数据往往以多种模态的形态存在,不同模态的信息之间互补,通过采集描述同一事物的不同模态的数据,可以对事物进行更好的记录。分布在不同模态的数据之间一般低层特征异构,高层语义相关,如何有效融合不同模态的信息是多模态学习的关键。本文从共享子空间学习的角度,对于多模态学习存在“模态鸿沟”、模态重要性特异、模态实例缺失等问题,学习多模态数据的共享子空间表示,互补融合多模态信息。主要创新点如下:(1)针对多模态学习中常见的“模态鸿沟”问题,提出了基于深度网络的对抗融合无监督跨模态哈希检索算法(Deep Unsupervised Adversarial Cross-modal Hashing,DUACH),通过对抗学习的方式融合多模态信息,将多模态数据融合表示在共享子空间。DUACH通过设计一个类间判别器使多模态数据的隐层表示分布尽可能一致,同时两个类内判别器使得图像和文本模态的保留更多数据的整体结构和局部结构。DUACH既能对抗融合多种模态的信息,又能保留了多模态数据的局部子结构信息。在多个图像-文本模态数据集上的跨模态检索实验验证了提出的DUACH模型的有效性。(2)针对现实世界中多模态数据往往存在实例缺失的问题,为了处理不完整多模态数据,提出自适应不完整多模态共享子空间学习模型(Partial Multi-view Clustering via Auto-weighted Similarity Completion,PMVC-ASC)。PMVC-ASC首先通过完整的多模态数据学习一个一致性的相似度矩阵,同时不同模态的权重几乎不需要参数,可以自动迭代更新,然后通过挖掘缺失的数据和完整数据之间的内在关联,将缺失的多模态数据对应的相似度矩阵进行填充完整,并通过关系图模型挖掘图的高阶相关性,将多模态数据划分到对应的簇。同时提出一个迭代优化算法来高效地优化提出的不完整多模态共享子空间学习算法。在多个数据集上的实验表明提出的PMVC-ASC的聚类效果优于对比的不完整多模态聚类算法。
其他文献
肝衰竭是以凝血机制异常、腹水、黄疸、肝性脑病等为主要表现的临床症候群。目前尚缺乏特效药物与治疗手段,病死率为30%~40%[2],严重危害肝病患者的身心健康。抗结核化疗诱发
会议
近代以降,随着西方列强用船坚炮利强行叩开国门,国人从对海洋的一贯忽视中警醒过来,有识之士萌生了海权观念。尤其是自1900年马汉海权理论在中国的翻译和传播,让中国人的海洋观念有了革命性的更新,促使当时人在“有海洋而无海权”的局面中积极思考和谋划适合中国的海洋世界。在海防破碎、民族多难的语境中,海军是“防守海疆的必备之势力”成为当时人不约而同的认识,舰艇的配备以及军港的开辟和完善被视为兴复海军之要务,
本科教育质量是大学办学声誉的重要载体。“双一流”战略实施后,本科教育的基础地位更加凸显。当前走在“双一流”建设前列的高校纷纷推出新的本科教学改革路线图,着力打造一流的本科教育。地方高水平大学是我国地方高校的领头羊。但相对于中央一流高校,地方高水平大学在本科教育教学质量方面,还存在明显差距。从“管理”到“治理”,教学作为教育的核心以及关键要素,其现代教学治理的改革是提升教育教学质量的基本途径。地方高
青少年特发性脊柱侧弯具有发病率高、危害程度大以及发病原因不明确等特点,严重影响着青少年的身心健康。目前,矫形治疗的生物力学机理和治疗方案已成为了医工界研究学者的热点研究问题之一。但近些年来针对矫形治疗的研究重点是如何确定被动矫形力的大小、施加位置,而往往忽视了脊柱侧弯患者自身产生的主动矫形力对其自身的影响。本研究将矫形过程中影响主动矫形因素考虑其中以进一步完善矫形机理,同时提出一种符合人体生物力学
阅读是学生构建健康心智和有趣意义世界的驱动力量,是学生心智发展的自由之旅,是遇见自我的最好途径。阅读在英语学习中扮演极其重要的角色,是儿童学习语言知识、发展听、说、读、写能力的基本途径,也对儿童身心全面发展起着积极的促进作用。然而目前小学英语阅读教学中,部分教师对阅读教学目标、内容、途径认识上有偏颇,不能根据学生的发展水平选择适切的教学方法,课堂上过分进行字词灌输和机械操练,忽视学生的阅读体验,学
作为智能材料的一个重要分支,记忆合金由于其特有的材料特性而被广泛应用于各种特殊应用场景中。通常有关的记忆合金应用只是单纯单利用其记忆效应或者某一方面的力学特性,并
改革开放后我国社会经济得到了充分的发展,对外开放程度也进一步加大,而社会各界对政府部门统计的要求也越来越高,实际上,政府统计部门所给出的各类统计数据,受到的关注力度也在一步步加大。基层政府所统计的数据,将被应用在公共决策、科学研究、投资理财、制定个人与企业发展规划等领域,因此其真实性和透明性是公众所关注的。但现实中我们发现,基层政府给出的部分数据与公众所感受有一定差距,由此其准确性被质疑。而201
诗经有云:“民亦劳止,汔可小康。惠此中国,以绥四方。”先人们早在两千多年前就渴望在奋斗中创造美好生活。习近平总书记在第十八届中央政治局常委与中外记者的见面会上掷地有声地说:“人民对美好生活的向往,就是我们的奋斗目标。”因此全国性扶贫工作如火如荼的进行起来,近几年来,安图县旅游局按照延边朝鲜族自治州党委政府关于延边州扶贫旅游开发的要求,结合安图县的实际情况,积极开展旅游行业扶贫工作,坚持把“旅游+扶
激光无线能量传输是指不使用能量传输线,而使用激光作为能量传输载体,从远距离为目标机器供能。相比于传统的能量传输方法,激光无线传能具有传输距离远,传输功率密度高等优点
现代制造模式下,离散制造车间的物料、工序、设备的集成调度直接影响着产品的质量、生产效率和成本,如何实现高效率的综合调度是实现信息化、智能化、柔性化、敏捷性生产的关键。实际的生产环境中,会突发各种影响生产的不确定事件,它们会使得预先制订好的调度方案失去作用甚至产生负作用。因此,需要一个能应对生产扰动的重调度策略。同时,针对重调度方案的甄选问题,需要建立一种适合的评价方案,通过重调度评价指标量化描述方