基于自注意力机制和关系网络对小样本语义分割的研究

来源 :上海财经大学 | 被引量 : 0次 | 上传用户:kuaile6789
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
深度卷积神经网络的兴起极大地推动了语义分割领域的研究进展,已经有一些成熟的方法应用于医学图像分析、自动驾驶等领域。不过随着研究愈加成熟,深度学习技术也暴露出了弱点。高的分割精度十分依赖于大规模的标注数据,而在许多现实应用场景中,大规模的数据是难以获取的,并且,对数据进行像素级的标注也是高成本的,所以如何基于少量标注数据通过有监督学习来较好地实现语义分割便成了一个亟待解决的问题;同时,现有的基于深度学习的语义分割方法难以应用于对新类的分割,而人类则可以观察少量图片快速从未曾见过的图像中分割出一个新概念,人类这种利用先前经验快速学习的能力启发了对小样本学习的研究。所以,基于少量样本学习出具备较强泛化能力的小样本语义分割问题便受到了众多学者的关注,具有非常重要的研究意义和学术价值。本文先分别梳理了语义分割领域和小样本学习领域的各类研究方法和已有成果,同时调研了目前小样本语义分割的研究进展,总结出小样本语义分割的两个重要的研究方向,一是改进图像的特征提取,二是改进支持集与查询集特征的相似性度量。基于这两个方向,本文提出:引入自注意力机制计算所有像素的全局依赖关系改进对图像的特征提取;选用关系网络作为特征相似性的度量,其关系模块利用卷积自主学习支持集和查询集特征的相似度,比固定的度量方法余弦距离、欧氏距离等更加灵活。最终本文设计出了一个基于自注意力机制和关系网络进行小样本语义分割的模型框架,由编码器、自注意力机制模块、关系模块和解码器四个部分组成。随后,本文基于数据集FSS-1000和PASCAL VOC2012完成了实证分析。实验中对比了两种编码网络结构(VGG-16、Res Net50)和四种损失函数(BCE、MSE、Dice Loss、Dice Loss&BCE)的组合效果,并从定量和定性两个层面比较了原始的关系网络和本文改进后的模型。从定量指标来看,在FSS-1000数据集上,使用VGG-16和Dice Loss与交叉熵的组合损失函数时,模型分割效果最优,在5-shot情形下Mean Io U(%)达到81.37%,较原始模型提高了2.29%,在1-shot情形下Mean Io U(%)为78.14%,较原始模型提高了2.81%,并且,5-shot的分割准度明显高于1-shot,这证明了融合多个样本特征的有效性。同时,本文还利用消融实验量化了自注意力机制的引入和损失函数的改进对模型效果提升的贡献分别为1.67%和0.62%。从定性层面来看,通过对测试阶段的查询集图像的分割结果进行可视化,本文发现,相比原始模型,引入自注意力机制的模型加强了对目标物体细节特征的抽取,可以有效地区分前景和背景,聚焦对目标物体的分割而排除其他物体的干扰,对目标边界的分割也更加清晰、精细。
其他文献
随着近些年通信,计算和嵌入式系统技术的飞速发展,物联网系统已广泛部署在不同类型的应用场景中,例如智能家居,智能医疗,智能交通,智慧能源以及工业自动化等。随着智能电网的不断建设,TSDB数据库中收集到的负荷数据也成指数倍增加,如何从这些数据中挖掘出用电行为和状态,并对可能存在的用电异常进行检测,对于保障电网的安全稳定运行具有重要意义。因此,本文基于分解与重构的方法从一个真实的多维物联网用电数据集中挖
学位
本文利用2015年1月1日之后银行间和交易所市场交易过并且评级在A以上的固定利率债券的周度收盘价格,对于国企债和民企债数据,分别基于三次样条折线函数,利用最小二乘估计的方法估计得到各个时间点的折现因子,随后获取了各个时间截面上的两年期、三年期、四年期和五年期的折现因子,并利用折现因子计算得到了即期利率曲线。从得到的即期利率曲线上可以看到,在国企债和民企债上都呈现先下降再上升最后回落的时间趋势,时间
学位
改革开放以来,随着我国经济水平的发展,城市化进程的推进,城市生活垃圾产生数量的越来越多,由此引发了大量与生活垃圾相关的问题,给我们的生活环境、生态水平带来更大的挑战,“垃圾围城”成为城市发展之痛。垃圾分类政策的推行有助于提升垃圾的处理速度、保障经济的高速发展、保障生态环境的改善。我国将城市生活垃圾分为可回收物、厨余垃圾、有害垃圾、其他垃圾四类,研究垃圾图片分类算法有助于居民简易、正确的进行垃圾分类
学位
目的:探讨温经养血汤与艾灸疗法应用于子宫内膜异位症痛经患者的效果,以便临床寻找出更有效的治疗方案。方法:选取2019年12月-2021年9月荆门市中医医院收治的子宫内膜异位症痛经患者120例,依据随机数字表法将其分为对照组和试验组,各60例。对照组给予艾灸疗法,试验组在对照组的基础上给予温经养血汤治疗,两组均连续治疗3个月。比较两组临床疗效,治疗前后中医症候积分、血液流变学、血清前列腺素F2α(P
期刊
我国的投资市场长期处于个体投资者占据绝大多数的环境中,投资者的情绪对于我国市场经济有着决定性的重要作用。从市场经济运行的角度来看,多数学者都认为,投资者的情绪和收益波动率之间是呈正向相关的,即投资者的情绪愈是高涨,其收益波动率也愈大。本文通过利用文本数据刻画了投资者的情绪,基于异质市场假设提出HARQ-RV-CJ-SENT模型,改善了对已实现价格波动率的预测效果,并从因果检验的角度深入分析了二者之
学位
在当今的大数据时代,指数级增长的文本数据给人工智能带来了更多的可能性,自然语言处理领域逐渐受到更多的关注。随着深度学习的发展,海量数据的自动化处理要求不断提高,如何高效利用非结构化文本信息成为一个紧迫且重要的热点任务。知识图谱、事理图谱等概念也渐渐兴起,事件抽取作为构建知识图谱的重要信息抽取技术,对于其他下游任务具有重要的意义,目前深度学习凭借着强大的自动特征抽取能力,逐渐成为事件抽取的主流研究趋
学位
中国已经顺利走完全面建设小康的道路,并在此基础上将继续向全面建设现代化国家迈进,由此再次将公共卫生安全和人民健康的历史任务凸显出来。新中国成立以来,尤其是十八大以后,中国在公共卫生领域取得了重大成就,困扰贫弱中国多年的各种传染病逐个消灭,人均寿命稳步提升,社保制度日益健全,医疗保健水平显著提升,制度的优越性愈加凸显。但社会主要矛盾的转变在公共卫生领域向理论和实践提出了更高的要求,随着经济社会的发展
学位
当今社会,网络服务已浸透人们生活的方方面面,而维护背后软硬件网络系统安全可靠的运行,以及应对各类突发事件则离不开运维人员的工作。但随着科技的进步,应用系统的规模及复杂程度的提高,传统运维方式逐渐被淘汰。智能运维在应对海量数据时,能更好地运用算法从海量数据中总结规律、提取规则,辅助运维人员做出更优的反应和决策。其中,对运维数据的异常检测技术在推动智能运维的发展具有不可或缺的作用。运维指标时序数据具有
学位
“斗争”和“伟大斗争”,成为党的十八大以来中国共产党治国理政过程中的高频词汇。习近平总书记在2021年春季学期中央党校(国家行政学院)中青年干部培训班开班式上指出:“我们党依靠斗争走到今天,也必然要依靠斗争赢得未来。”1因而,“伟大斗争”既不是一句纯粹的政治口号,也不是国家领袖的凭空创想,它是中国共产党人在漫长的接续奋斗的历史过程中理论创新与实践创新的统一,具有深邃的历史理论根基和现实依据。“伟大
学位
目的探讨加味桂枝茯苓汤联合孕三烯酮治疗子宫内膜异位症痛经的疗效,以及对患者糖类抗原125(CA125)、糖类抗原199 (CA199)水平的影响。方法选取泉州市中医院2017年1月至2019年1月收治的90例子宫内膜异位症痛经患者,随机分为对照组和观察组,各45例。对照组口服孕三烯酮胶囊治疗,观察组在对照组基础上口服加味桂枝茯苓汤治疗,两组均治疗12周。治疗前后,观察并比较两组视觉模拟评分法(VA
期刊