基于深度学习与自注意力机制的智能问答系统研究

来源 :海南大学 | 被引量 : 0次 | 上传用户:vbsunboy
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
随着深度学习技术不断进步,在智能自然语言处理领域的应用也越来越普遍,智能自然语言问答处理系统是智能语言处理领域的一项重要成果,逐渐发展壮大。但是现有的各类智能自然语言问答处理系统,仍然普遍存在过度的依赖于特征分析工程和基于词频的统计特征等的问题,无法捕捉到自然语言文本的上下文相关信息。因此,针对以上的问题,本文将通过结合现有的深度学习方法与自注意力机制对智能问答系统的应用展开深入的研究,具体工作如下:(1)针对特征提取的问题,本文研究设计了一种基于自注意力机制的双向长短期记忆神经网络模型用于特征提取并广泛应用到各类智能问答咨询任务中。该神经网络模型通过分别加入三种"门"的神经网络结构,可以有效地解决传统的循环神经网络可能会遇到的梯度特征消失和梯度特征爆炸等问题;由于该神经网络模型在正反两个方向分别提取了特征,因此能够很好地解决特征提取上下文信息特征同时缺少上下文信息的问题。(2)本文的研究结果对比了几种经典的自注意力机制在问答任务上的应用效果。在深度学习面向智能问答的学习模型中,本文引入了一种性能较好的深度学习与自注意力机制相结合的方法。通过分析计算文本词汇序列中不同层次词汇的特征重要性及其分布的向量,将文本中词汇的重要特征信息直接融入应用到智能问答模型中。本文的深度学习模型在公开的数据集Insurance QA、Web QA的基础上进行了广泛的实验分析验证,结果表明,本文研究设计的基于深度学习与自注意力机制相结合的模型在基于问答学习任务上的应用效果优于其他基于深度学习的算法。(3)本文采用Tensorflow深度学习框架对文中的问答模型进行实现,采用Java Spring MVC架构等技术设计实现了一套维护成本低、部署方便的智能问答系统。
其他文献
在2003~2011年期间,重庆大学钟树生团队针对框支短肢剪力墙斜柱式转换结构的抗震性能分析做了大量构件试验,对该种结构的整体抗震性能做出了评价。但是由于试验本身的局限性,对高轴压比下该种结构更为详细的参数化分析以及其对各项抗震性能指标的影响就需要数值模拟来进行分析。在有限元数值模拟分析中,对框支短肢剪力墙斜柱式转换结构的分析研究尚不完善。本文研究课题的内容主要针对团队试验构件W9-4,在试验整体
目的:毛冬青,又名茶叶冬青,为冬青科冬青属植物毛冬青(Ilex pubescens Hook et Arn)的干燥根。主产于中国长江流域以南各省。毛冬青为常绿灌木或小乔木,其功效有活血通络,清热解毒,消肿止痛,临床上主要用于治疗冠心病、心绞痛和脉管炎等。课题组前期研究结果表明,毛冬青的皂苷部位具有较好的抗炎镇痛活性,同时发现了一系列三萜皂苷类化合物,本课题进一步对毛冬青的化学成分进行研究,期望能够
准确的实验结果得自于设备的高精度,精度决定了机器设备能否准确的完成预定工作,精度一般以误差的形式表现,误差的大小关系到工作是否可以正常进行,采集的数据是否符合实际情况。本文主要研究REBot-V-6R教学用机器人,REBot-V-6R机器人是六自由度串联机器人,主要为实验室学生提供实验数据,根据不同需求,手爪处可拆卸安装不同功能的末端执行器,可用于搬运,焊接等工作。为提高实验数据的准确性,考虑多因
目的:探讨ND42RNAi对PINK1突变转基因果蝇的神经保护作用。方法:选用Mhc-Gal4/UAS系统的PD转基因果蝇模型,特异性启动PINK1B9基因于果蝇肌肉组织中表达,通过ND42RNAi干预PINK1B9转基因果蝇,研究ND42RNAi对PINK1B9转基因果蝇飞行能力的影响。通过ATP试剂盒及western blotting技术,研究ND42RNAi对PINK1B9转基因果蝇的相对A
随着集成电路工艺技术的迅速发展,MOSFET的特征尺寸减小至纳米级,器件功耗逐渐成为制约集成电路发展的主要因素之一。隧穿场效应晶体管(TFET)基于带带隧穿的工作原理,其亚阈值摆幅可以突破MOSFET的60mV/dec的理论限制,在集成电路低功耗方面的优势明显。但是,目前传统的硅基TFET采用少子反型的工作机制,载流子隧穿几率低、隧穿面积不足,导致其导通电流小、开关电流比不高,难以满足实际应用。因
目的:本研究旨在通过观察活血愈肠方对于轻中度溃疡性结肠炎(UC)临床症状及活动性、内镜评分、生活质量等的改善及不良反应等,并与莎尔福(美沙拉嗪肠溶片)进行比较,评价活血愈肠方治疗轻中度UC的有效性及安全性,为活血愈肠方的进一步推广应用提供疗效及安全性依据。方法:从2016年8月至2018年1月,在广东省中医院住院部及门诊部就诊的轻中度UC患者中,纳入符合要求的UC患者20例,随机分组,将符合纳入标
随着信息技术的蓬勃发展,互联网业务量及用户数量急剧增长,当前因特网数据信息的存储模式、共享方式、转发机制、服务质量与用户对网络不断增长的需求已成为当前互联网技术发展的主要矛盾。不同于目前基于IP协议的信息获取方式,未来互联网用户将更多地关注数据信息的内容而不是其所存储的位置。因此,基于数据内容的信息搜索方式将成为未来互联网体系架构的主要特点。作为下一代互联网体系结构的典型代表之一:信息中心网络(I
钢铁企业能源消耗巨大,污染排放严重,节能降耗是实现钢铁企业可持续发展的重要举措。通过协同调度各种能源、资源的合理使用,可以提高能源利用水平,降低能耗。煤气、蒸汽、电力是钢铁企业能源系统中重要的三种二次能源,并且相互之间存在转换,通过研究煤气、蒸汽、电力三种能源的协同转换和优化使用,对于推进钢铁企业节能减排和降低能源成本具有重要的理论指导和实际应用意义。论文主要研究内容如下:首先,分析了钢铁企业能源
高分二号卫星是我国自主研制的高水平民用遥感卫星,通过融合其空间分辨率较高的全色图像和光谱分辨率较高的多光谱图像,能够生成空间分辨率较高的多光谱图像。针对遥感图像融合,由于传统算法存在建模复杂、在光谱信息保持和空间细节增强两方面难以达到较好的平衡、性能受限于引入的先验假设等不足,基于卷积神经网络的研究开始兴起。与传统算法相比,这些研究在光谱信息保持和空间细节增强之间取得了更好的折中。然而,这些研究在
再制造作为循环经济的重要环节,通过各种先进的修复技术将回收的废旧产品恢复到不低于新产品性能的状态,是一种社会、经济、环境三赢的绿色产业,对于应对日益严峻的资源和环境挑战具有重大意义。再制造工艺规划是再制造的关键技术之一,影响了再制造的效率、成本以及再制造产品的质量。回收的废旧零部件因为服役环境的差异性而具有不确定性,需要定制化的修复策略,增加了再制造工艺规划的复杂程度。而且当前的再制造工艺规划很大