自注意力机制的短文本分类算法

来源 :计算机工程与设计 | 被引量 : 0次 | 上传用户:luocai1982
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
分析目前的短文本分类算法没有综合考虑文本中隐含的依赖关系和局部关键信息这一问题,提出基于自注意力机制(self-attention mechanism)的堆叠双向长短时记忆网络(stack bidirectional long short term memory)模型(简称Att-BLSTMs)。利用stack Bi-LSTMs捕获上下文隐藏依赖关系,优化短文本特征稀疏的问题;利用自注意力机制加大对短文本中局部关键信息的注意力,优化文本表示。在公开AG-news网页新闻的语料和DBpedia分类数据集中,
其他文献
针对传统路径跟随算法中引导率参数选择非优化问题,提出一种基于遗传算法的引导率参数优化选择方法,构建无人机自适应路径跟随系统。遗传算法将选取的引导率、预先设定的路径
为解决手机移动端带宽波动导致用户视频服务体验降低的问题,提出一种移动手机可用带宽预测算法(mobile available bandwidth prediction,MABP)。采集Android手机的LTE参数,使
针对无线通信技术的特点和某型无线通信系统的功能需求,基于FPGA(现场可编程门阵列)软件无线电平台,使用VHDL(硬件描述语言)设计用于某型通信系统的数字信号处理关键模块。设
长期以来,中小企业在就业与经济增长方面做出巨大贡献,但其生产经营所需资金的瓶颈问题却始终未得到根本解决,中小企业发展中的资金问题也越来越受到各界的重视.商业银行信贷
针对CNN算法计算量大、运算耗时长、对PC资源依赖程度高的缺点,提出一种基于Vivado高层次综合硬件加速CNN实时图像处理的方法。将训练好的CNN模型中各参数提取并导入Vivado HLS中,利用C++语言按照Vivado HLS处理规范编写CNN识别算法,实现由FPGA的逻辑资源生成CNN算法对应的RTL级硬件电路,通过Vivado HLS仿真窗口进行CNN识别算法的测试,评估硬件加速CNN算
以泉州市为例,构建生态城市评价指标体系,从城市生态系统结构、功能和协调性3方面分析泉州市生态城市建设状况,采用变异系数确定权重和生态综合指数模型评价泉州市城市生态综
在如今这个满是信息的时代,有许多信息层出不穷,相当繁杂,受到了众多的洗礼之后,市场参与者对信息的要求变得越来越高,人们对财务信息提供者和需求者之间起联系作用的会计师事务的
随着我国持续贯彻三农政策方针,农村金融的具体运用成为了影响我国农业发展和农业产业化的重要环节。在农村金融对三农问题的解决方式上,农业贷款为农业发展提供基本资金,并