基于注意力卷积的神经机器翻译

来源 :计算机科学 | 被引量 : 0次 | 上传用户:lcc2451
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
现有神经机器翻译模型普遍采用的注意力机制是基于单词级别的,文中通过在注意力机制上执行多层卷积,从而将注意力机制从基于单词的级别提高到基于短语的级别。经过卷积操作后的注意力信息将愈加明显地体现出短语结构性,并被用于生成新的上下文向量,从而将新生成的上下文向量融入到神经机器翻译框架中。在大规模的中-英测试数据集上的实验结果表明,基于注意力卷积的神经机翻译模型能够很好地捕获语句中的短语结构信息,增强翻译词前后的上下文依赖关系,优化上下文向量,提高机器翻译的性能。
其他文献
本文旨在丰富灾难社会学的具体理论,研究SARS发生时大学生群体自身的一些特性。 The purpose of this paper is to enrich the specific theory of sociology of disasters
<正>下面是清代桐城派大家姚鼐78岁时写的一封信:复汪孟慈书七月朔,姚鼐顿首,孟慈孝廉足下:惠书知旧疴新愈,欣喜欣喜!云欲就受业,闻之愧悚不宁。谫陋何足师?况以加高明卓绝如
一个地区行政事业单位的部门预算是本单位具体业务开展和目标任务完成的主要保障,是行政事业单位年度内要完成的事业计划和工作任务的货币表现,是财政部门组织收入、控制支出
审计沟通贯穿于审计活动的始终,审计质量的高低一定程度上取决于审计沟通的效果和效率高低。有效的审计沟通,有助于审计单位双方良好关系的构建,从而促进审计活动中问题交流
冲击地压是一种复杂的矿井动力现象,一直是岩体力学及矿山防治研究的难点之一。近年来随着煤矿采深的增加,出现冲击地压显现的矿井明显增多,给矿井生产和安全带来了极大的威
①目的探讨EB病毒(Epstein-Barr virus,EBV)对人胃上皮细胞GES-1易感性及细胞周期素D1表达状况的影响。②方法用携带产EBV的B95-8细胞系制备EBV,感染人胃上皮细胞GES-1;用有
基于关系—表征复杂性模型编制了复杂程度能序列变化的长方形面积问题,以此测量了4~6年级共310名学生的问题表征水平及其与由瑞文标准推理测验测定的流体智力的关系。结果表
<正>胃肠减压是利用负压吸引和虹吸的原理,将胃肠道积聚的气体和液体吸出,以降低胃肠道内压力,促进伤口愈合和胃肠功能的恢复,也有利于炎症的局限。对行胃肠减压的93例患者并
自拟遗尿饮治疗遗尿30例,总有效率100%,值得推广。