基于分层Attention机制的Bi-GRU中文文本分类模型

来源 :长春师范大学学报 | 被引量 : 0次 | 上传用户:wori147258
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
针对基于神经网络的文本分类模型在训练过程中容易发生过拟合及忽略句子中的关键词的问题,提出了一种基于分层Attention机制的Bi-GRU中文文本分类模型。该模型引入了分层的思想,利用双向门控循环神经网络学习词层面和句子层面的文本表示,采用Self-Attention层次模型获取词和句子对于文本分类影响程度的信息;通过绑定共享嵌入层和softmax层之间的权重,在减少模型中参数的同时采用AMSBound优化方法快速有效地获取最优权重矩阵。对常用的两个中文数据集Fudan Set和THUCNews,本文模型
其他文献
资本结构调整是近年来学术研究的一个热点。与已有实证文献建立在对目标资本结构估计的基础上不同,设计了一种新的方法,通过考察实际资本结构变动是否超过一定临界值、超过临
目的了解医疗机构提供妇女常见病普查服务的内容和形式,为制定、完善相应的管理措施和技术指导提供依据。方法根据我国东、中、西部地区划分,随机抽取10个省(自治区、直辖市)为调
随着数字化、智能化校园建设步伐的推进,传统的静态虚拟展示已经不能满足需求,VR虚拟技术在智慧校园建设中有着广泛的应用前景。本文探讨VR虚拟技术在校史馆信息化建设中的应
目的了解云南省4个贫困县儿童牙齿萌出和乳牙龋病发病情况及影响因素。方法2007年对云南省4个贫困县60月龄以下儿童乳牙萌出时间及龋患情况进行调查,并对资料作以分析。结果①
目的 了解与放置宫内节育器有关的子宫异常出血的相关因素.方法 采用病例对照研究方法,比较放置宫内节育器后子宫异常出血的132例患者(研究组)与放置宫内节育器后无异常子宫出
研制一种用于花卉养护的多通道智能浇灌系统,系统由51单片机核心板、模数转换板和继电器控制水泵驱动板组成。核心板集成了实时时钟、按键和显示器等组件。数模转换板集成了4
针对自然图像中检测边缘和对象边界的基础性问题,本文基于边缘保持滤波算法在保边去噪的优异表现,提出了一种基于边缘保持滤波的边缘检测方法。首先,利用L_0梯度最小化对输入图像进行去噪平滑;其次,将L_0平滑图作为引导图,为可引导滤波的二次平滑提供更好的指引,得到二次平滑图;最后,通过梯度运算得到最终边缘检测结果。对比验证实验发现,本文算法对图像中噪声和低频无效信息进行了有效抑制,其检测精确性和实时性明
针对车内有害物质的存在、来源及危害性,以及大多有害气体的不可见性,结合物联网技术与安卓平台提出一种新型智能监控仪设计方案,实时监测车内甲醛(HCHO)、总挥发性有机化合
现今的福建泉州有这样一个群体,他们自称“打城人”,表演“打城戏”,有着“打城信仰”、传承“打城文化”,并且构筑了一个充满“打城文化符号”和“打城精神”的“打城空间”
改善资源错配是提高全要素生产率水平、实现中国经济高质量发展的关键因素。基于中国制造业微观企业数据,具体探讨产业集聚对中国制造业资源错配的影响效应。研究表明:在政府