【摘 要】
:
随着大数据时代的到来,人们需要处理的数据量急速增长,如何快速有效地从浩瀚的网络中提取到关键信息,成为业界迫切需要解决的难题。关系提取由于其能够从大规模非结构化文本中提取结构化信息,而被广大研究者所关注。近年来,学者们将基于神经网络特征抽取的方法引入到关系提取任务中,取得了令人瞩目的成绩,这使得面向关系提取的神经网络研究成为热点。根据不同的数据集标注方式,关系提取方法主要分为全监督和远程监督两类。在
论文部分内容阅读
随着大数据时代的到来,人们需要处理的数据量急速增长,如何快速有效地从浩瀚的网络中提取到关键信息,成为业界迫切需要解决的难题。关系提取由于其能够从大规模非结构化文本中提取结构化信息,而被广大研究者所关注。近年来,学者们将基于神经网络特征抽取的方法引入到关系提取任务中,取得了令人瞩目的成绩,这使得面向关系提取的神经网络研究成为热点。根据不同的数据集标注方式,关系提取方法主要分为全监督和远程监督两类。在全监督关系提取方法中,大多数神经网络仅考虑单分支信息流,难以获取足够的语义特征来进行关系提取。远程监督关系提取方法大多采用改善关系标签和选择注意力机制来抑制包内噪声句子,仅从包内噪声句子这一层面来对噪声进行抑制,存在感受视野不足的问题。另一方面,大多数远程监督关系提取方法在进行特征抽取时,仅考虑单一方面特征,缺乏对句子全局信息的有效感知,无法从特征层面对噪声特征进行滤除。针对以上问题,本文主要围绕提高神经网络抽取语义特征的能力、抑制远程监督数据集中噪声等方面展开研究,并取得了一系列的成果。本文的主要研究内容与创新工作如下:(1)在全监督关系提取任务中,针对大多数神经网络难以获取足够的语义特征问题,本文提出一种基于全局和局部特征感知网络的关系提取方法。该方法首先利用自注意力机制和循环神经网络获取单词的相关性时序特征。其次,构建多分支特征感知卷积神经网络,分别获取全局和局部相关性时序特征,避免全局和局部感知的相互影响。进一步地,对这两种特征进行拼接和筛选,以全面表示句子的重要语义特征。最后,结合Softmax分类器实现关系提取。实验结果表明,所提方法优于主流的基于卷积神经网络和循环神经网络的关系提取方法,在标准的Sem Eval-2010 Task 8和KBP37数据集上F1值分别达到86.1%和64.9%。(2)在远程监督关系提取任务中,针对大多数降噪方法存在感受视野不足的问题,本文提出一种基于多层次特征精炼的远程监督关系提取方法。具体地,针对包内存在的噪声句子,该方法首先利用特征抽取模块对包内的特征进行初步抽取。其次,构建特征集成模块,通过对初步抽取的包内特征进行集成学习,以获得初步滤除噪声的集成包特征。进一步地,构建特征压缩模块,通过对各集成包特征进行压缩凝练,以获得具有本质鉴别能力的精炼特征。最后,结合Softmax分类器实现关系提取。实验结果表明,所提方法优于基于选择注意力和标签优化的方法,在标准的NYT数据集上平均P@N达到了85.7%。(3)在远程监督关系提取任务中,针对大多数神经网络缺乏对句子全局信息有效感知的问题,本文提出一种基于IR-Net的远程监督关系提取方法。该方法通过挖掘有关单词,句子及其相互作用的各个方面,以明确获得各个方面的相互依赖性来提高表示质量,抑制噪声特征。具体地,该方法首先通过响应模块来对单词,句子多方面的信息进行建模,获得多方面信息。其次,通过交互模块来动态汇总多方面的信息,捕获多样性的全局信息。进一步地,构建交互响应模块,对多样性全局信息之间依赖关系进行响应,以获得显著全局信息。最后,通过分段最大值池化和多层次特征精炼操作对显著全局信息进行筛选和精炼,以获得用于关系预测的精炼全局特征。实验结果表明,所提方法明显优于近几年基于选择注意力和标签优化的方法,在标准的NYT数据集上平均P@N达到了88.6%。
其他文献
在新零售背景下的互联网体验经济时代,契合消费者所需的高效、优质体验不仅能够刺激消费者消费欲望,而且能够促使企业由“产品为导向”逐渐向“以消费者为导向”予以转变。而在5G技术的助力下,新发展起来的增强现实技术的应用为包装设计创新提供了契机,为提升包装的用户体验提供了新的思路。AR技术从根本上改变用户与包装之间的互动关系,使包装设计为产品增色,促进消费体验升级。目前,国内外关于AR交互式包装设计的理论
作为一位深谙并秉承现实主义创作精神的当代作家,弋舟以独特的文学气质和鲜明的创作风格受到了文学界的广泛关注,荣获了鲁迅文学奖等诸多奖项,体现了一定的文坛影响力。日常生活作为生命生存的意义支撑,一直是弋舟文学创作的出发点。弋舟的小说聚焦日常生活场景,探索人性的深度与广度,体察日常生活包裹下的社会变革,呈现出现代人的生存样态和心灵面貌。论文以“日常生活”为研究切入点,对弋舟小说进行文本细读,挖掘弋舟对“
4G和5G网络的到来,促成手机成为智能化服务的终端,满足人们日常生活需要,人们通过手机更好地适应着信息化社会。但手机沉迷带来的心理、生理问题也不容忽视。根据媒介系统依赖理论和负强化情绪加工理论,某种行为或物质在满足人们需求、缓解负性情绪的同时,人们也容易加强此种行为或依赖这种物质。例如,当人们从事某项工作时,往往受手机相关线索的影响,产生强烈的使用渴求,习惯性地打开手机查看相关软件信息,以弥补错失
计算机视觉作为人工智能研究中的一个重要的分支领域,其重要性不言自明,基于人类对自身相关研究的重视,视觉任务中关于人的图像的研究无疑是举足轻重的。人脸识别作为视觉任务研究中最早的子课题之一,其研究成果已经达到了很高的水平,但是它在现实的应用中往往存在很大的局限,仅仅靠人脸来识别一个完整的人并不现实,其中存在着许多难点(如拍摄的人脸图像模糊,人脸存在大范围遮挡等)。在这样的情况下,行人重识别作为一项重
目标跟踪的主要任务在于从存在噪声的观测数据中过滤出真实目标的状态并输出,在基于分布式传感器网络的多目标跟踪任务中,存在诸如目标新生、目标数目变化、目标运动呈现出非线性/非高斯特征、不同传感器观测误差差异大,且未知以及传感器具有受限观测视野等问题,使得完成稳定的多目标跟踪任务十分具有挑战。基于随机有限集的多伯努利族滤波器,如势均衡多伯努利滤波器(CBMe MBer),广义标签多伯努利滤波器(GLMB
随着互联网时代的来临,每一刻都会产生海量数据,其中文本数据以传输效率高、便捷性高、普及范围广的优势存在于各个领域中,而如何对文本数据进行快速、准确的分类是当下的热门问题。本文以新闻文本为研究对象,对相关分类算法进行研究并改进,最终验证所提出的算法能够提高文本分类准确度。1.针对传统朴素贝叶斯文本分类算法中文本特征缺乏特征权重的问题,引入更侧重特征类别间分布的互信息,并将TF-IDF与互信息相结合,
针对细粒度图像由于类间差距过小、类内差距过大、背景复杂以及姿态差异等问题目造成的分类瓶颈,本文设计了一系列基于卷积神经网络的端对端的弱监督学习分类模型,实现对细粒度图像分类精度的提高。本文主要研究焦点在于如何准确提取识别细粒度图像易混淆、难分类的特征,有效降低分类误差。具体的研究内容如下:1.基于自注意尺度变换网络的细粒度图像分类方法。为了提高网络提取特征的表现力,本章提出自注意力融合模块和多尺寸
2020年的全球公共卫生事件给全球经济带来了前所未有的冲击和挑战,但是游戏行业却迎来了超出预期的发展。疫情不断地解体和重构着人们旧有的观念和生活方式,由于游戏较低的成本和门槛,吸引了越来越多的人尝试并参与到游戏活动中,游戏不但在一定程度上释放了社会的压力,而且弥补了大众在社交方面的渴求。在所有的手游玩家中,轻手游类型玩家中一直占据着最为广阔的市场,拥有着可观的人群基数。由于轻手游较低的开发成本,各
贝叶斯网络(Bayesian network,BN)是目前不确定知识表达和推理领域最有效的理论模型之一,同时在如图像处理、疾病预测等领域得到越来越多的应用。BN结构与预测效果直接相关,学习BN结构也已被证明是NP难问题,因此快速准确的学习BN结构极为重要。启发式搜索算法已被广泛应用在BN结构学习问题中。基于遗传算法(Genetic algorithm,GA)的BN结构学习算法存在搜索时间过长、易陷
数字图像作为人们获取和传递信息的重要载体,在给人们生活带来便利的同时,也给社会带来了一些安全隐患。随着图像编辑软件的发展和普及,图像内容修改与图像伪造的成本变得越来越低,用户可以轻易利用图像编辑工具修改图像内容并且不留下明显的视觉痕迹。篡改图像在互联网中的肆意传播将对军事、政治、传媒等领域带来负面影响,因此,数字图像取证研究具有十分重要的现实意义。本文针对图像操作篡改检测以及图像篡改区域定位开展研