基于注意力机制和知识蒸馏的场景文本识别

来源 :大连理工大学 | 被引量 : 0次 | 上传用户:djs4520345
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
场景图像中的文字具有丰富的高级语义信息,为计算机理解场景图像提供了重要帮助。在自然场景图像中自动检测和识别文本的研究吸引了越来越多研究者的兴趣。本文从文本检测和识别两个角度入手,分别设计了对应的网络模型,并且提出了基于知识蒸馏的文本识别方法,减小了模型的参数量和计算量。首先,在文本检测任务中,将场景文字看作一种特殊的物体,基于现有通用目标检测算法检测文本是目前主流的研究方法之一。然而,目前的检测算法角度回归能力弱,当存在复杂的多种方向的场景文本时,很难准确回归出正确的角度。本文提出了一种能够自动检测具有方向的文本的深度卷积网络模型。在该模型中,设计了空间变换模块学习文本的方向,在对特征进行对齐的基础上进一步学习和改善角度和位置估计的准确性。本文方法避免了预设大量的不同角度、不同长宽比的锚点框,极大地减小了模型的复杂度。实验结果表明,本文提出的检测模型能有效提升文本检测的性能,在ICDAR-2015和MSRA-TD500数据库上均取得了领先的性能。其次,在文本识别任务中,常用的方法是用长短时记忆网络(LSTM)对卷积网络提取的特征进行建模。LSTM采用了串行的方式建模序列特征,在建模长距离特征时会产生一定的信息损失。本文将注意力机制引入到文本特征的序列建模中,通过建模不同文本之间的相似度学习它们之间的长距离依赖关系,并通过注意力模块的堆叠进一步增强性能。实验表明,本文的方法比经典的LSTM更为有效,在四个场景文本识别数据库上取得了极具竞争性的识别结果。最后,本文提出了基于知识蒸馏的场景文本识别方法,以大参数量的复杂网络模型作为教师,将其知识迁移到参数量少的轻量级学生网络模型上。对于特征提取部分,本文采用了中间层特征蒸馏的方式监督学生模型的训练;对于序列建模部分,本文利用教师模型中的相似度矩阵和前馈网络的输出作为监督信号,训练学生模型。实验结果表明所提出的方法能够显著地提高轻量级学生模型的识别准确率,达到甚至超过教师模型的性能。
其他文献
目的为地方药品上市许可持有人(MAH)落实其药品全生命周期监管的主体责任和即将正式发布的《药物警戒检查指导原则》提供决策参考。方法以接受药物警戒检查的15家上海市MAH为研究对象,对检查结果采用社会网络分析方法探索MAH企业属性与检查问题项之间的逻辑关系,总结发现的问题并分析原因,同时提出相应对策。结果与结论本次药物警戒检查中发现的问题主要集中在组织机构、人员管理、质量管理体系、报告质量等方面。造
黑土地是重要的农产品生产基地之一,承担着保障国家粮食安全和维护农业生态安全的重要责任,保护好黑土地对促进我国农业可持续发展至关重要。本文分析了2000—2020年东北黑土地粮食生产耕地压力的变化情况,研究了国际贸易对东北黑土地粮食生产的耕地压力的影响,利用国际市场占有率指数和贸易竞争优势指数分析了东北黑土地农产品在国内及国际两个市场的竞争优势。研究结果表明,近20年来东北黑土地粮食生产的耕地压力基
互联网医疗市场需求巨大。近期,百度健康在短时间内接连完成两轮投资:一是领投互联网健康科普平台"有来医生"B轮融资,融资规模近2亿元;二是投资医药互联网平台"药师帮"。动作频频的背后,是百度健康在医药领域开始布局,同时也体现出百度健康加码互联网健康赛道的决心。
期刊
矿井无线电波勘探可用于煤层地质构造探查,凭借其轻便和效果好等优势,成为煤层地质构造探查的常规和必备手段。现阶段无线电波信号在煤层中的能量衰减较快,大宽度煤层工作面透射无线电波探测面临制约。基于此,提出煤层工作面无线电波反射勘探方法。首先,数值模拟构建二维含煤地层电性模型,对无线电波Hx分量信号的场强值进行分析。模拟结果显示:无线电波在正常煤层巷道中Hx分量信号的场强值衰减与传播距离呈现近似线性关系
我国东北地区作为北半球仅有的三大黑土区之一,是我国粮食安全的"压舱石",对维护我国区域生态环境稳定和保障国家粮食安全具有不可替代的作用。粮食安全与耕地质量和种子安全密切相关,但由于长期连作、单作、过度开垦,农田黑土肥力下降,土壤结构恶化,土壤耕层变薄、有机质含量降低,黑土区耕地出现长期透支,导致黑土"变薄、变瘦、变硬"。本文主要介绍东北黑土地保护现状、农业生产情况、黑土地固碳增汇的情况和前景,围绕
从2004年实施以来,通用技术在普通高中教学中就备受关注,虽然经过多年的发展取得一定的成绩,但也存在许多的问题。这些问题的存在,会阻碍通用技术教学的有效实施,也会对通用技术的教学产生很大的困扰。本文通过对普高中实施通用技术教学存在的问题进行探讨,找到对应的解决方法,希望能更好的推动当前通用技术在普高教学中的实施。
对在青岛市某实际工程采用的横流形开式热源塔热泵系统冬季制热性能进行实验研究和分析,在热水进出温度40℃/45℃下,该热泵系统在青岛标准冬季典型日主机COP最大值3.55,系统SCOP最大值2.66,具有较好的换热性能。在热泵机组额定制冷量540 kW、热水出口温度45℃工况下,通过分别改变热源塔风机、溶液循环水泵、热水侧水泵的工作频率,实验研究热源塔运行参数对热泵系统性能的影响。研究结果表明:热源
绩效评价既是绩效管理工作的重要内容,又是做好绩效管理工作的重要抓手。随着绩效评价体系的逐步建立,绩效评价在提高资金使用效益,优化财政资源配置效率方面发挥着不可替代的作用,但也应清醒地认识到,绩效评价工作还存在机构不健全、形式大于实质、指标体系不完善等问题,需要在工作中予以完善和提升。
学位
液晶自发现以来被广泛应用于平板显示产业,已经发展到巅峰阶段。欧美大学有关液晶技术的研究近年来有增无减,其应用则分散于平板显示以外的各个领域,而液晶非显示技术的产业化相对较少。中国仍然在增加TFT-LCD生产能力,但几乎没有液晶非显示产业。液晶科研活动增加了很多,但是从学术研究来讲,这些新增加的科研活动主要集中在非显示领域。