基于多步注意力机制和图卷积网络的多级问答的研究与实现

来源 :北京邮电大学 | 被引量 : 0次 | 上传用户:nhb
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
问答(QA)对于自然语言理解是一项很有挑战性的任务,吸引了许多研究人员的兴趣。它为评估系统理解自然语言的能力提供了有用的基准。当前的大多数的研究都针对于单级问答,答案往往能从单个文档或者单句话中推断得出,缺少处理复杂问题的能力。多级问答相对单级问答来说是一个更具有挑战性的任务,它要求模型能够从多个文档中收集和问题相关的证据来回答问题,这导致适用于单级问答的模型在多级问答中表现的不好。如何设计和实现能推理复杂问题的具有多级推理能力的模型,是当前一个亟待解决的问题。本文结合注意力机制和图卷积网络,设计了一个具有多级推理能力的问答模型。该问答模型包括一个利用注意力机制的多步注意力网络和利用图卷积网络的候选图网络。多步注意力网络利用了多步推理机制,通过迭代的从多个文本中收集与当前问题表示相关的信息,来更新问题表示,并且生成上下文的总结表示。和传统单步注意力网络相比,多步注意力网络可以收集到与初始问题不相关但与答案相关的支撑证据,并通过这些证据来矫正预测结果。候选图网络将所有候选答案看作实体,并根据它们在所有文档中的位置信息,构建一个候选图。然后用图卷积网络实现候选图中的候选实体之间的信息传递。通过图卷积网络,可以利用到候选实体之间的图结构信息。本文在公开的多级问答数据集上进行了实验,实验结果和消融实验证明了本文提出方法在多级问答任务上的有效性。最后,本文设计并实现了一个多级问答原型系统,并将本文提出的模型应用于该系统。
其他文献
在当前能源行业中,除了大背景下的国家政策及市场环境外,核心员工和人力资源也是一家企业能否生存发展的核心因素。近年来,随着能源行业,尤其是天然气领域民营资本的不断进入,清洁能源领域的竞争日趋激烈,小微民营企业的生存日渐艰难,而很多中小企业由于人力资源管理经验的不足以及制度的不健全,导致员工大量流失,使本就困难的情况雪上加霜。相对于中石油、中石化等传统国有能源企业已经成熟的管理体系,民营中小企业无论是
物质的态、性质和不同相之间的变换是现代物理研究的中心课题。而强相互作用的物质及其结构、相变则是目前基础物理急需解决的中心问题。在标准模型中,夸克、轻子及传播相互作用的玻色子构成了我们的宇宙。强子则构成了我们宇宙中绝大部分的可观测的物质。所以对强子的内禀性质和结构的研究对我们认识物质世界极其重要。标准模型认为强子是由夸克和传播强相互作用的胶子构成的。由于禁闭作用,自然界中不存在自由的夸克和胶子。大爆
随着经济全球化和一体化趋势的不断加快,金融行业在市场经济中的核心地位日益显现。自改革开放以来,我国一直高度重视金融行业的稳健发展和风险防范。部分经营效益较好的国有
本文基于ERA-Interim再分析资料,从逐日演变的角度,分别研究了1979-2016年冬季(12-2月),白令海和巴伦支-喀拉海(BKS)的海冰减少机制,以及海冰减少与下游中纬度大陆冷事件的可能关系。对白令海与BKS海域海冰减少事件的合成诊断分析表明,两海域的海冰减少机制并不相同。对于白令海海域,近地面经向风对海冰减少的贡献最大,其次是向下红外辐射,近地面纬向风的贡献最小。导致白令海海冰减少的
云服务作为竞争激烈社会的企业信息化高级阶段,如今正处于兴起的飞速发展阶段。作为一种基于网络进行所需信息获取的创新技术,云服务具有先进的技术优势,允许用户在短时间内,
随着社会的进步和建筑行业的飞速发展,住宅从简单的满足人们实用性要求发展到满足人们舒适性的要求,异形柱的出现很好的解决了传统柱突出墙面的现象,使家具摆放更加合理,提升了住宅空间利用率。异形柱的研究和应用愈加成熟,越来越多的应用于建筑结构中。此外,建筑行业的发展同时也带来了更多的建筑垃圾,我国对于建筑垃圾大多选择填埋处理,还未形成较完善的系统,相比于欧美国家完整的建筑垃圾回收、处理和再生混凝土的制备、
大量信息表明,公司社会责任信息披露水平直接影响信息使用者的判断和决策,同时公司的治理结构又影响着企业信息披露的要求、内容和质量。企业社会责任信息披露质量的高低会反映公司的治理能力和治理水平,较好的社会责任信息会获得利益相关者的信赖,同时也有助于信息使用者依据给出的信息做出正确的决策判断,从而促进我国资本市场机制的有效运营。因此本文基于利益相关者角度分析我国医药制造业上市公司社会责任信息披露问题,力
本文采用物元评价法对即墨供电公司的安全风险管理体系进行评价,使用相关数据进行评价后验证了该模型体系的有用性,它可以将电力企业在安全风险管理中存在的问题指出来,并有助我们提出针对性的改进措施。文章首先系统的梳理了现有研究的研究成果,并在此基础上从物理、环境、人员、管理的等四个方面分析了影响电力企业安全风险管理的相关因素,为后文构建相应的安全风险评价体系奠定基础。紧接着从人员安全、物理安全、运行安全、
超声复合加工技术因其具有切削力小与加工精度高等优点,被广泛应用于Nomex蜂窝复合材料加工领域。超声刀具作为超声复合加工设备中的重要组成部分,研究它的磨损状态和剩余寿
税源管理的优化是在税务系统现有管理方式的基础上,为了解决共性之下的个性问题,提出有针对性的管理方式。如通过信息化技术的应用,专业化分类管理及征纳一体化等方式,共同搭建的新型税源管理模式。税收作为国家财政收入的基本形式是国家治理的物质保障,而税源管理是影响税收质量最为关键的因素之一。近年来,我国经济主体形式呈现多元化发展趋势,企业涉税事项越来越复杂,纳税人的涉税需求也在变高,传统的税源管理模式已经不