【摘 要】
：
在文本情感分析中,切片循环神经网络(SRNN)是目前最先进的长文本分析的高效解决方案.针对切片操作导致的低层网络的长期依赖性损失和单向SRNN无法充分提取文本语义特征的问题
【机 构】
：
中国计量大学 信息工程学院 浙江省电磁波信息技术与计量检测重点实验室,杭州310018
论文部分内容阅读
在文本情感分析中,切片循环神经网络(SRNN)是目前最先进的长文本分析的高效解决方案.针对切片操作导致的低层网络的长期依赖性损失和单向SRNN无法充分提取文本语义特征的问题,提出一种基于双向切片门控循环单元和注意力机制(Bi-SGRU-Attention)结合的情感分类模型.首先,将文本序列切片成多个子序列,输入到双向门控循环单元,然后,利用注意力机制对每个子序列隐藏状态进行加权计算,通过多个网络层获得整个文本序列信息.最后经过softmax函数输出文本情感极性.通过多组对比实验,结果表明,提出的Bi-SGRU-Attention模型,在IMDB数据集上取得90.86％的准确率、90.66％的F1值和0.2301的损失,同时通过可视化子序列的注意力权重,也进一步验证了添加注意力机制弥补低层网络的长期依赖性损失的有效性.
其他文献
针对我国一些上市公司利用资产减值会计政策进行盈余管理，大玩“减值冲回”数字游戏的问题，2007年1月实施的新《企业会计准则》对资产减值会计政策进行了较大的修改与完善，其中
内容针对传统指数滑动平均(EMA)算法在AlexNet卷积神经网络的训练后期无法持续优化网络参数,而导致网络过拟合问题.提出一种基于Tanh动态衰减指数滑动平均算法(T-ADEMA),采用变系数Tanh函数作为衰减率函数,根据训练次数动态调整优化参数,减小数据集中噪声对网络学习影响,提高模型泛化性能.实验结果表明,基于T-ADEMA算法的AlexNet网络在MNIST,CIFAR_10,CIFAR
传统的基于补丁的图像修复方法在修复过程中无法复制真实的图像纹理,即故障像素区域,通常需要手动标记故障区域.我们提出了一个迭代检测故障区域的图像修复模型.使标记故障区域过程自动化、精确化,模型将从修复过程中的多个特征图中图区的补丁作为CNN的输入,经CNN卷积和池化后输入Softmax分类器识别区域像素有效性,对标记为无效的故障区域采用Patch Match算法进行修复,引入启发式阈值对修复图像多次
半监督学习利用少量的辅助信息以提升学习器的性能.基于图的学习方法是较为典型的半监督学习实现途径,利用图来表达和分析数据,能够处理复杂的数据分布.不同于这类方法通常所利用的无符号图,符号网络具有更强的表达能力,其负边能够表达额外的信息.本文基于符号网络的规范化割(Signed Normalized Cut,SNCut),提出了可处理成对约束的半监督聚类,通过实验验证了负边给半监督学习带来的附加价值.
在机器学习领域,从少量样本中高效的学习仍然是一个巨大的挑战.本文借鉴度量学习的思想,基于深度高斯过程模型这一非参数模型,提出了用于小批量手写字符识别的深度高斯匹配网络.该框架可以自适应的学习到一种将以标注支撑集和未标注的样本映射能够有效到其标签的深度结构,同时避免因训练数据不足而出现的过拟合现象.在深度高斯过程模型的训练阶段,运用标准化流方法构造灵活的变分分布,改善了推断的质量.并且在稀疏化高斯模
在全球经济一体化加速发展的时代背景下，企业面临的社会竞争极其残酷。想要在技术、经济和社会不断发展进步的今天不被淘汰，企业必须不断提高自身竞争优势。如何增强企业竞争能
近几年，随着报纸市场竞争的日趋激烈，全国各地崛起的都市报无一例外地将民生新闻当成攻城略地、争夺受众的看家本领。民生新闻则以普通百姓的生存环境和生存状态作为新闻表现的来源和视角，关注民生、民情和民意，以它特有的品质和魅力迅猛发展。但由于新闻从业人员素质的不同以及媒体之间的竞争，出现了不应该有的现象，一部分民生新闻出现了“媚俗、猎奇、迎合、浅薄”等不良倾向，一部分民生新闻则囿于对日常琐事的简单记录，因