跨模态视频分类研究

来源 :电子科技大学 | 被引量 : 0次 | 上传用户:hellogph
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
随着多媒体时代的到来,移动互联网的蓬勃发展,越来越多的人选择通过拍摄上传视频的方式来记录分享生活的点点滴滴。而视频内容识别是计算机视觉领域的一个重要研究领域,工业界以及学术界也一直给予了广泛的关注,它是视频鉴别分类的基础。传统分类方法过分依靠专家的手动设计提取视频内容各部分特征。深度神经网络在语音识别,图像识别取得了杰出的贡献,目前已被推广至视频识别,也就是多帧连续输入的图像识别研究。本文选择了学术届公认的UCF101、HMDB51和Kinetics400数据集作为实验数据集,如何在单个视频中提取出不同模态的特征并充分利用是本次实验的重点,在获取视频特征后,如何在有限的特征范围内极大地提高视频分类精度是难点。本文实验研究内容主要是使用Pytorch框架实现一个基于注意力机制的多路视频分类模型,可以实现具有多模态特征输入,不同模态特征融合的视频分类。提取特征阶段主要提取包括RGB图像模态特征、光流模态特征、3D视频模态特征和音频模态特征在内的四类特征,针对不同的特征单独输入分类网络,获取视频内容标签概率分布。在分类阶段,本文将采用组合不同模态特征的方式做分类,在特征提取层面加入注意力机制,并且在最后的融合阶段采用了特征拼接融合,均值融合和结果融合的方式做了多组对比实验,最后建立了一个基于注意力机制的多路视频分类模型。完成分类任务的基础上,拓展了跨模态检索任务,通过将预先的标准化特征映射到同一语义空间,不断拉近视频模态特征和图片模态特征之间的距离,将两类特征类哈希化为64bit,进行相互检索。本实验主要基于神经网络进行分类和检索,区别于传统的分类网络就只是针对视频的文字标签进行分类,并不会深挖视频本身特征,过分依赖人工标签。而神经网络可以挖掘视频本质特征的相似性,通过对海量视频特征进行拟合运算,最终得到每个视频标签的概率分布。视频分类实验中,在三个实验数据集上均达到预期成果。跨模态检索实验中,在UCF101数据集中图片检索视频可以达到0.84的检索精度,超越了大多数算法。
其他文献
我国正处于转轨经济时期,严重的外部融资约束已成为企业发展的“拦路虎”,极大地阻碍了国家经济发展。在2014年国务院常务会议等重大会议上,国务院总理李克强十次直接提出或者要求缓解融资难、融资贵问题。因此,如何提高会计信息的决策有用性,增强会计信息供给质量,对降低企业内外部信息不对称、缓解融资约束具有重要理论与现实意义。作为我国资本市场改革的重要举措,2007年新的会计准则重新启用公允价值计量属性。2
模数转换器(Analog-to-Digital Converter,ADC)是可以将模拟信号转换为数字信号的一种电路。模拟信号是连续变化的信号,数字信号则是离散变化的。根据处理信号类型的不同,集成电路可以大致分为两种:模拟电路和数字电路。因为集成度较高、功耗较低、适应性及可移植度高和抗干扰能力较强等原因,数字电路的应用较模拟电路要更为广泛,在集成电路行业中逐渐形成了“大数字小模拟”的趋势。但是因为
融资融券交易在欧美等发达国家盛行已久。我国于2010年3月31日正式推出融券业务,标志着卖空机制在我国A股市场的正式引入,对我国证券市场来说是一个里程碑式的事件。国外学术界已对打破卖空限制的经济后果做了大量研究。我国虽近年来才推出融券业务,但借助两融标的分布扩容提供的难得的准自然-实验机会,研究卖空机制的文献已经越来越丰富。其中个别学者将卖空机制与公司审计收费联系在一起,但他们进行实证检验的过程存
随着信息技术和数字经济的快速发展,对于处在经济转型背景下的中国企业来说,面临着来自行业内外的多方面挑战。传统的商业模式已经难以保障企业的可持续发展,企业可以通过新颖型商业模式设计获取竞争优势。新颖型商业模式设计是指企业通过构建新的交易系统来创造价值,其本质是更好的满足顾客全新价值主张。作为战略决策的制定者,企业高管在设计新颖型商业模式过程中发挥着重要作用,高管团队内部上下级之间基于职位层级上的差异
中国西部叠合盆地经历了多期原型盆地叠加,多期抬升剥蚀,形成了复杂的构造样式和多期断层活动,复杂的构造运动导致油气藏多期调整改造。恢复不同构造带复杂的构造活动历史是
随着人类社会的进步,传统化石燃料正逐渐地被其他新型环保能源所代替。其中,氢能成为最有发展前景的新能源之一。将具有合适的能带结构的光催化剂放入水中在大阳光的照射下可
近年来,随着我国社会保障体系的不断建立与完善,国家对农村地区人身保险的推广与发展越来越重视。农村人身保险具有保费低廉、保障适中、投保与理赔程序简单、条款通俗等特点
2019年5月11日至5月0日,报告人在江苏省工商联合会举办的维多利亚州企业家江苏驻点交流项目担任口译员,承接了澳大利亚宾克斯物业管理公司董事长的陪同口译工作,协助其进行商
信息化浪潮席卷教育领域,使用信息化的手段解决教育领域存在的问题,实现教育信息化,是当前教育领域发展的趋势。在高职教学管理工作中一直存在着学生出勤率低、实训室管理混
随着办公自动化技术的大量普及,企业内各种业务应用的规模和数量也在不断地扩大与增长,业务流程也日趋复杂。基于工作流技术的应用系统也必将是软件技术发展的方向之一。虽然