【摘 要】
:
关系抽取作为自然语言处理领域中一项重要的基础任务,目的是判断出文本语句中实体对之间存在的语义关系,在知识图谱、智能问答等应用领域中发挥着重要的作用。传统的基于有监督的关系抽取方法完全依赖人工标注来获得训练语料,需要花费大量的时间,消耗大量的人力资源,因此,通过自动标注来获取大量语料的远程监督方法逐渐成为关系抽取任务的热点。远程监督的前提假设是:如果在知识库中的一个实体对存在某种关系,那么所有包含有
论文部分内容阅读
关系抽取作为自然语言处理领域中一项重要的基础任务,目的是判断出文本语句中实体对之间存在的语义关系,在知识图谱、智能问答等应用领域中发挥着重要的作用。传统的基于有监督的关系抽取方法完全依赖人工标注来获得训练语料,需要花费大量的时间,消耗大量的人力资源,因此,通过自动标注来获取大量语料的远程监督方法逐渐成为关系抽取任务的热点。远程监督的前提假设是:如果在知识库中的一个实体对存在某种关系,那么所有包含有这个实体对的文本句子都表达着这种关系。基于这种假设,通过远程监督可以在短时间内构建大量的训练语料,但无法避免其产生的错误标注的问题,导致数据集中存在大量噪声。如标注句子内部存在大量和关系表示无关的噪声词,影响了神经网络模型获取句子语义表示的准确性。另外,现有的采用句子级别注意力机制的关系抽取模型直接以包含大量噪声的实体关系标签为依据,难以合理地分配不同句子对于最终关系预测的贡献度。面向以上挑战,本文提出了相应的解决方案,主要的创新点和贡献如下:(1)提出了一种融合多头自注意力机制的关系抽取模型,通过卷积操作提取文本特征之后,采用多头自注意力机制来降低句子内部无关噪声词对于句子表示的负面影响,不仅得到了更优的句子语义表示,而且避免了关系标签噪声对于词注意力分配的影响。(2)基于以上关系抽取模型,进一步融合实体的特征信息,提出了一种融合实体特征的关系抽取模型。基于知识表示学习Trans E算法的思想,本文在选择不同句子生成实体包特征时,将句子中头、尾实体经过双线性变换后的实体隐含语义表示作为依据,使用缩放点积注意力来动态分配不同句子对于最终关系预测的贡献度,过滤了大量实体关系标签噪声,进一步缓解了远程监督噪声数据带来的不利影响。另外在网络的输入层,除了常用的词向量和位置向量外,额外加入了命名实体特征和核心实体词特征,进一步丰富了句子的输入表示,有助于模型获取更多的有效特征。本文围绕远程监督关系抽取任务,在降低远程监督噪声影响方面提出以上研究方法,并进行了详细全面的实验。在经典数据集NYT-Freebase上的实验结果表明:相较于基线模型,本文提出的方法更具有优势,进一步提升了关系抽取的性能,在AUC值的表现上,本文方法达到了38.2%,相较于PCNNs+ATT模型提升了4.1%,相较于BGWA模型提升了2.2%,验证了提出方法的有效性。
其他文献
西瓜(Citrullus lanantus)作为世界重要的经济作物之一,在全国各地广泛栽培,西瓜味美清爽,富有较高的营养价值,是人们夏天降热补水的重要水果型蔬菜。随着人们生活水平不断提高,瓜果品质也成为人们关注的一个焦点问题。西瓜常见的果肉颜色为红色,特殊果肉颜色西瓜具有一定的经济价值。绿色果肉西瓜在市场上很少见。研究发现绿肉西瓜主要积累了叶绿素,叶绿素已被证明具有抗氧化和抗突变活性,并具有调节异
《合同法》第230条1明确规定了房屋承租人享有优先购买权,但房屋承租人先买权制度不仅限于此,还散布在其他规范中,如《最高人民法院关于审理城镇房屋租赁合同纠纷案件具体应用法律若干问题的解释》(以下简称为《房屋租赁合同司法解释》)第21-24条。可因为规范的简陋、不成体系,且立法者在观点立场上多有反复,导致先买权制度在适用过程中存在诸多分歧,尤其是先买权受到侵害时的救济问题,如先买权受到侵害的情形具体
《儀禮》是儒家十三經之一,是春秋戰國時代的禮制彙編,記錄了中國古代的禮儀,包括冠、婚、喪、祭、鄉、射等。清代沈彤深潛《儀禮》之學,所著《儀禮小疏》為清一代研究《儀禮》的重要著作。沈彤一生著述頗豐,前人雖對沈彤著述有所涉獵,但對其《儀禮小疏》卻關注甚少,尤其是從訓詁學角度著力的研究更是罕見。為了彌補這一缺憾,我們在反復研讀《儀禮小疏》一書的基礎上,就其訓詁内容、訓詁方法、訓詁術語及學術評估等諸方面進
DNA不仅承载着生命遗传信息,还是天然的纳米生物材料和元件。由于DNA分子自身的特异性、高并行性、微小性等天然特性,在信息存储和处理过程中表现出了强大的并行计算能力和数据存储能力,吸引了学者的广泛关注。DNA分子被广泛用于设计构建各类功能结构和器件,如DNA计算机、DNA传感器、DNA芯片、DNA分子探针和分子信标等。立足点介导的DNA链置换技术已经广泛应用于构建DNA设备,包括DNA传感器、DN
新时代下公安机关工作模式的转变是推进公安信息化和装备化的关键。近几年公安机关查处的各类经济犯罪案件中,团伙组织作案的总体数量呈逐年上升趋势。其隐蔽性高、关系网复杂、犯罪主体反侦查能力强、取证困难等特点已经成为现阶段公安机关反侦查工作的难点所在。警务人员打击团伙组织作案的过程中发现,提取犯罪嫌疑人手机与基站交互的通信信息,往往能够找到证明犯罪事实的证据。目前基于通信话单分析技术的研究,在话单数据深度
目的探讨青少年黑暗三联征(马基雅维利主义、精神病态、自恋)与非自杀性自伤行为、心理韧性的关系,以及黑暗三联征对非自杀性自伤行为的影响和心理韧性在黑暗三联征和非自杀性自伤行为间的中介作用。方法采用分层随机抽样的方法,在H与G两地选取中学生(初中生和高中生)1215名为研究对象。使用黑暗三联征中文修订版(SD3)、非自杀性自伤行为(NSSI)、心理韧性(RS),进行施测。剔除无效数据71份,得到有效数
环境风垂直切变是影响中尺度对流的重要环境因子之一,其对对流发生发展与维持过程的影响仍存争议,需进行进一步探究。此前有学者通过统计观测资料提出对流层上层垂直风切变是
随着港口货物装载的发展日趋智能化和自动化,对集装箱起重机的控制要求也越来越高。由于起重机-吊载组成的系统动力学特性,小车在运行过程中会使吊载产生摇摆,这样不仅降低了
随着财产性利益这一概念的产生,大量的侵犯财产性利益的违法犯罪行为也不断出现,例如现实生活中常出现的通过诈骗手段取得欠条以逃避债务的行为等。关于诈骗财产性利益的既遂标准,学界有许多不同的理论观点,然而诈骗财产性利益既遂标准的确定,关系到罪与非罪的界分问题,也关系到是否能够通过刑法的规制作用来切实保障人民的财产安全。除此之外,笔者还将对何为财产性利益进行分析,以及通过与域外法的比较来对我国刑法关于诈骗
蓝果忍冬属于寒地特色小浆果树种,是一种新兴的商业水果,其营养价值可媲美蓝莓等浆果树种,甚至一些生物活性成分的含量要大大高于蓝莓,具有很高的营养保健和经济价值,深受广大消费者的喜爱。但由于蓝果忍冬果实果皮较软,易受物理损伤进而导致不耐贮运,影响蓝果忍冬产业的经济价值。为此,本研究以蓝果忍冬品种“蓝精灵”为研究对象,通过探究1-甲基环丙烯(1-MCP)、微环境气调(m MA)、微环境气调结合1-MCP