基于BERT-BiLSTM的短文本情感分析

来源 :信息通信 | 被引量 : 0次 | 上传用户:xiawa371236585
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
传统的神经网络模型主要是以词向量的形式处理短文本的分类任务,造成模型过度依赖分词的精度,而短文本又具有语料短、特征发散的特点,针对这一系类问题提出一种基于BERT和BiLSTM相融合的短文本情感分类模型。首先,利用BERT模型将训练的文本转换成以字为单位的向量表示形式;随后,将生成的字向量作为双向长短期记忆网络输入,获取到相关字的上下文的语义表示;并通过加入随机Dropout机制防止模型发生过拟合;最后,将提取的特征向量输入到全连接层,经过Softmax函数计算出文本所属的情感类别。经实验表明,在处理短文
其他文献
文章设计出一种基于忆阻器的可重构逻辑门电路,并利用忆阻器的SPICE模型,对设计的电路进行了仿真验证。该电路单元可实现多种基本逻辑运算,在此单元电路基础上设计了3线-8线
最近偶然读到一个词——沉浸感,它的意思是,整个身心完全投入到一件事情或一种情境时的那种宁静、充实、兴奋乃至忘我的感觉。可能是职业的关系,我一下子就联想到了和孩子们
在互联网+模式运行不断深化的背景下,提高医联体之间患者双向转诊效率,更加合理分配与使用医疗资源。通过使用医院建设的数据总线平台接入其他医联体医疗机构,在线上完成远程
教育家欧文认为.教师对学生的爱护,以及对学生的温和态度.甚至比他们的学问和修养更为重要。心理学研究也发现.教师对学生抱有积极态度和适度期望,相处时的心理气氛就比较和谐融洽
早期阅读即早期的文学作品教育。幼儿早期阅读教育大多通过图画故事进行。从幼儿的思维特点来说,主要以形象思维为主,而早期文学作品的语言形象生动、画面色彩鲜艳、活泼有趣,深
【片段一】教师出示以下数量:买4支铅笔,每支0.8元,付3.5元,找回0.3元。师:请同学们找出题中数量间的相等关系,并写出关系式。
由于传统控制方法,在进行通信设备自动化控制时控制器采用单信道机制运行,因此自动化控制可靠度低,无法实现通信设备自动化控制。针对这一问题,提出基于PLC技术的通信设备自
体育教学是一种双边活动,它离不开教师的教和学生的学。古语说得好"好知者不如乐知者",体育兴趣是高中女生参加体育活动的主要动力源。笔者认为,在高中体育教学中,研究影响高中
文章阐述声纹识别的理论依据,分析选用技术的关键步骤。基于Matlab软件,制作一个系统。通过相关算法的运用和改进,并进行实验对系统进行检测,最终获得一个可对特定人声进行识