融合区域与属性注意力机制的图像描述方法研究

来源 :山东大学 | 被引量 : 0次 | 上传用户:tianshui8085
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
图像描述作为融合自然语言处理和计算机视觉的新兴交叉研究方向,旨在实现对图像高层语义内容的理解,利用计算机自动给出关于该图像的文本描述,在帮助视觉障碍人员理解图像内容、图像检索以及人机交互等方面具有重大研究意义和潜在应用价值。目前,图像描述领域中普遍存在生成文本准确率低,不能准确地描述图像中内容的问题,本文针对上述问题,基于编码—解码框架,提出了一种融合区域与属性注意力机制的图像描述模型,具体工作如下:首先,融合区域与属性注意力机制的图像描述模型需要有图像的属性信息作为输入,本文因此进行了图像属性预测方法的研究,采用如下两种方法预测图像属性:(1)基于k近邻检索的非参数化的图像属性预测方法,利用相似图像具有的属性作为待描述图像的属性预测结果;(2)基于区域的多标签学习的参数化图像属性预测方法,通过神经网络直接输出图像中不同属性存在的概率。实验结果表明:基于k近邻检索的非参数化图像属性预测方法在预测图像中的名词性属性方面有优势,基于区域的多标签学习的参数化图像属性预测方法在预测动词和形容词性属性方面具有优势,将二者预测的结果进行融合可以有效提升图像属性预测的准确率。然后,针对图像描述过程中生成的文本不能准确地描述图像中的内容的问题,本文基于编码—解码框架,提出了一种融合区域与属性注意力机制的图像描述模型(Region Atrribute-Caption,RA-CAP)。针对 RA-CAP 模型中的图像编码模块、注意力机制融合模块以及文本解码模块分别进行了设计。此外,针对RA-CAP模型的训练问题,提出了一种具有双重正则化项的损失函数,使得模型在生成文本过程中不会持续关注某一区域特征或者属性。实验结果表明,本文提出的融合区域与属性注意力机制的图像描述方法在生成文本的过程中,与文本语义相关的图像区域和属性能够共同指导文本的生成,可有效提升图像描述的准确率。
其他文献
随着半导体产业的不断进步,硅(Si)作为一种传统的半导体材料已经无法满足某些领域应用的需求,以碳化硅(SiC)为代表的第三代半导体材料逐渐成为新的选择,在当前我国正在推进的
伴随着社会的发展和无线通信技术的进步,人们对于数据传输的需求呈指数增长,这对于现有的移动通信系统提出了挑战。为了使得数据速率更高更快,人们提出了诸多的技术方案。其
目的转铁蛋白受体(Transferrin Receptor,TfR,CD71)介导细胞对铁的吸收,对细胞增殖具有重要意义。生理情况下,TfR在细胞表面低表达,而肿瘤细胞铁代谢发生改变,对铁的摄入增加,故TfR表达水平大幅上调。本研究旨在构建并生产出靶向TfR的双特异性抗体,并通过体外细胞系实验与临床样本实验,验证其活化T细胞并靶向杀伤肿瘤细胞的作用,为TfR作为肿瘤治疗靶点奠定基础。方法1.构建表
空化是特定发生在流体中的一种物理现象,由空化引发的空蚀会降低水力机械的工作效率并缩短其使用寿命。疏水性表面由于自身拒水特性具有出色的抗腐蚀能力,因此在解决空化空蚀
粗糙集理论作为一种能够处理不精确、不一致和不完备数据的数学工具,其在不确定性度量方面的显著性能以及处理过程中不需要任何先验知识的特性受到了国内外专家的广泛关注。
目的:了解南充市中心医院急性脑梗塞的救治情况,通过改进绿色通道流程等措施提高南充市中心医院静脉溶栓率从而减少急性缺血性脑卒中致残率致死率,努力建立畅通的川东北地区急性缺血性脑卒中急救网络。方法:对照组为南充市中心医院2016年1月1日-2017年12月31日溶栓的急性脑梗塞患者,溶栓地点为神经内科,于2018年1月1日启动绿色通道流程改进程序,然后将2018年11月之前在神经内科溶栓的急性脑梗塞患
研究目的研究2型糖尿病(Type 2 diabetes mellitus,T2DM)患者血粘度、红细胞变形能力(Erythrocyte deformability,ED)、红细胞聚集性(Erythrocyte aggregation,EA)与糖化血红
调度问题在实际生产环境中运用广泛,随着我国制造业近年的迅猛发展,制造业生产环境趋于多样化和复杂化,从生产实际中抽象出来的批调度问题也越来越复杂。本文研究了差异容量
胡桐泪(Resina Populi)是一种来源于杨柳科(Salicaceae)植物胡杨(Populus euphratica)分泌的天然树脂。胡杨是沙漠珍贵的森林资源,具有抗热、抗干旱、抗盐碱的特性,分布于我国内蒙古西部,甘肃,青海,新疆等地。胡桐泪为少数用药和维吾尔医用药,最早记载于《唐本草》描述其特点为胃咸苦、性大寒、无毒、入胃经,主治咽喉肿痛、结核炎、十二指肠溃疡等疾病。我们课题组长期从事传
慢阻肺作为一种慢性呼吸系统疾病,具有全球性患病率和死亡率都较高的特征,给个人、家庭、社会造成了沉重的负担。随着经济的发展医疗技术的进步,很多疾病的病发率随之降低,慢阻肺病的病发率和死亡率却只上不下。这极大影响了慢阻肺病患的身心健康,目前市面上没有任何一款氧疗仪是完全针对慢阻肺病患者设计的,现有市场存在的几大品牌制氧机或多或少可以满足病患的吸氧需求,但在患者中晚期呼吸能力下降时,必须匹配辅助呼气的呼