结合自注意力和残差的BiLSTM_CNN文本分类模型

来源 :计算机工程与应用 | 被引量 : 0次 | 上传用户:denggaoangyuan
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
一般地,双向长短期记忆网络(BiLSTM)和卷积神经网络(CNN)很难在文本的多分类任务中提取到足够的文本信息。本文提出了一种基于自注意力机制(Self_Attention)和残差网络(ResNet)的BiLSTM_CNN复合模型。通过自注意力赋予卷积运算后信息的权重,接着将池化后的特征信息层归一化并接入残差网络,让模型学习到残差信息,从而进一步提高模型的分类性能。在模型的运算过程中,使用了更加光滑的Mish非线性激活函数代替Relu。最后,通过与深度学习模型对比,所提出的方法在准确率以及F1值评价指标上均优于现有模型,为文本分类问题提供了新的研究思路。
其他文献
目的 使用3D打印技术制备复方丹参缓控释制剂,实现复方丹参制剂中特定组分在特定部位释放。方法 通过计算机辅助设计软件,设计多组分、双层级释放的药物三维数字模型,使用热熔挤出方式制备负载药物的打印丝材,使用熔融沉积3D打印方式制备复方丹参缓控释制剂,以及体外溶出试验初步测试制剂中药物释放情况。结果使用3D打印技术成功制备复方丹参缓控释制剂,实现了药物组分中冰片仅在肠道中释放,而丹参和三七在胃肠道中均
低轨卫星移动通信系统具有覆盖面广、不受天气与自然灾害影响、安全高效等特点,成为了未来全球化通信网络中的重要组成部分。随着5G技术的发展,低轨卫星物联网也得到了越来越多的关注,卫星与5G的融合,是构建未来“万物互联”世界的必然趋势。针对卫星物联网系统中的大规模终端接入问题,本文在卫星移动通信系统的基础上研究了稀疏码多址技术(Sparse Code Multiple Access,SCMA)的接收端检
存款保险制度是国际上比较通用的金融安全保障制度,其具有多方面的积极作用,包括保障金融机构的稳定性、保护存款人权益等。安全与稳定是存款保险制度突出的特点,但任何事物没有绝对性,也有不可避免的道德风险问题。本文首先阐述存款保险制度的概念,其次分析国外保险制度下道德风险状况,以美国、俄罗斯为例,通过借鉴国外经验,为我国存款保险制度下道德风险的防控提出相应建议。
促成骨剂重组人甲状旁腺激素(1-34)[PTH(1-34)]的半衰期短和生物利用率低。本研究制备了一种可生物降解的透明质酸-聚N-异丙基丙烯酰胺温敏水凝胶 (AHA-g-PNIPAAm),并探究其作为药物载体对PTH(1-34)释放和细胞行为的影响。采用核磁共振氢谱和红外光谱对AHA-g-PNIPAAm的结构进行确证;利用物理溶胀法制备载药温敏水凝胶,并进行稳定性考察;采用扫描电镜观察水凝胶的形貌
《普通高中历史课程标准(2017年版2020年修订)》提出,重视以学科大概念为核心,使课程内容结构化,以主题为引领,使课程内容情境化,促进学科核心素养的落实。研究发现:随着统编版高中历史教科书的推广使用,利用学科大概念引领教学成为研究的热点。面对容量巨大的新教材,历史教学不仅要关注核心概念和主干知识,更要发挥历史细节的作用,以大概念为引领,构建课程结构;从教材的细微处、历史的疑难点、人物的活动中发
随着《中国有嘻哈》节目的热播,Diss一下成了网红词。Diss是英文单词"disrespect (不尊重)"或"disparage (轻视)"的简写,表示为看不惯、轻视、鄙视等意思。这不,最近参加完几场面试,小玲便一直抱怨"面试官总在Diss我"。最近,小玲对求职面试有些犯怵,原因是在几次面试中总被面试官质疑跳槽频繁、职业目标不清晰。小玲开朗直率,当年刚从学校毕业时,凭借到位的现场应对获得不
期刊
文中主要围绕装配式建筑,探讨分析预制构件施工技术问题,以供参考。
博物馆是历史的见证者,在传统文化的传播方面发挥着重要作用,"以文促旅,以旅彰文"推动文化和旅游融合发展,已成为新时代中小型博物馆的必然选择。然而当前中小型博物馆文创产品开发还存在一些问题,尤其体现在人员、资金、工作人员工作经验不足等方面,如何将这些问题与难处予以克服,是值得思考与讨论的问题。基于此,文章从中小博物馆文创产品开发的现状出发,分析了文旅融合背景下中小型博物馆文创产品开发存在的问题,并提
本刊讯今年是西藏和四省(青海、甘肃、四川、云南)藏区教育协作30周年。为了全面总结交流课程改革及藏文教材建设工作的成功经验,进一步推动西藏和四省藏区基础教育课程改革,加强民族文字教材编译理论与实践的研究,9月2日至5日,在甘肃省甘南州召开了西藏和四省藏区基础教育课程
期刊