基于领域知识增强的汉越神经机器翻译方法研究

来源 :张乐乐 | 被引量 : 0次 | 上传用户:zeroxu001
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
在飞速发展的深度学习技术带动下,神经机器翻译性能获得了显著提升。在主流的语言上的翻译性能已经逐渐接近或者达到人工译者的水平。目前对于汉语-越南语语种,面向特定领域双语对齐语料的规模和质量有限,缺乏双语知识库和平行语料库。在特定领域翻译方面神经机器翻译模型训练未达到拟合、泛化能力不强、翻译品质仍不理想。提升汉越特定领域神经机器翻译的性能有着广泛的市场应用空间和学术研究价值。本文探索将领域知识融入到汉越神经机器翻译过程的方法,完成了以下的研究工作:(1)基于预训练语言模型及交互注意力的平行句对抽取方法从互联网可比语料中筛选高质量的平行句对,是提升低资源机器翻译性能的有效手段之一。但是互联网中的可比语料通常包含大量噪声数据,如何准确有效地过滤互联网数据中的噪声是平行句抽取任务的主要挑战。针对该问题,文中融合预训练语义表征提出一种基于交互注意力机制的跨语言文本语义匹配方法,利用双语语义表征一致性,实现噪声环境下平行句对抽取。具体思路为:首先利用预训练语言模型分别生成源语言和目标语言的双语表征,然后基于交互注意力机制实现跨语言特征的空间语义对齐,最后基于多视角特征融合后的语义表征实现跨语言句对的关系判定。在人工构建的汉越可比语料库和IWSLT15英越可比语料库的实验结果表明,所提方法优于已有的平行句对抽取模型。此外,借助抽取出的平行语料,机器翻译模型的性能得到了明显的改善。(2)基于领域知识增强的汉越神经机器翻译方法特定领域包含大量的领域词,在低资源的情况下不能得到很好的翻译效果。如何将领域知识融入机器翻译模型中,改善特定领域翻译性能是当前亟需解决的问题。对于以上问题,文中提出了基于领域知识增强的汉越神经机器翻译方法,通过识别源语句中的领域词,在编码阶段。引入一个领域知识的编码模块,学习领域词的向量表示,引入领域知识-编码器的注意力机制,利用领域词增强源语言句子的向量表示。在解码阶段,引入领域知识-解码器的注意力机制,通过领域词和源语言共同指导目标译文的生成。根据构建的新冠疫情领域的数据实验结果表明,提升了特定领域下汉-越神经机器翻译的性能。
其他文献
报纸
维生素K2是人体必需的脂溶性维生素,七烯甲萘醌(Menaquinone-7,MK-7)作为维生素K2大类中重要的品种之一,在功能食品和医药等领域备受青睐。前期研究发现,摇瓶培养条件下MK-7的产量远高于搅拌釜反应器培养条件下的最高产量。为缩小从摇瓶放大至3L搅拌釜反应器带来的差异,本文首先使用计算流体力学(CFD)技术及动态吸收法对不同转速下摇瓶与搅拌釜反应器的剪切应力及氧气传递性能进行比较,其次
学位
颈颅磁刺激技术(Transcranial Magnetic Stimulation,TMS)是利用磁刺激来调控神经元细胞膜电位的新型物理治疗技术,通常可用于人体失眠治疗,因其对人体无任何副作用、临床效果明显、生物兼容性好等优点备受人们关注。然而,目前基于颈颅磁刺激技术原理制作的颈颅磁刺激仪、磁疗仪等设备具有体积庞大、有源驱动、安全系数低、携带不便等实际问题。因此,本文设计并制作了一种基于人体穴位振
学位
目的 比较腹腔镜微创手术与保守治疗卵巢囊肿的效果。方法 回顾性选取2020年1月至2021年1月十堰市太和医院妇科收治的80例卵巢囊肿患者作为研究对象,采用随机数字表法将其分为对照组(40例)和观察组(40例)。对照组采用中西医结合保守疗法,观察组采用腹腔镜微创手术治疗。比较两组的卵巢功能恢复情况、治疗总有效率、治疗方案依从性和满意度。结果 治疗前两组的雌二醇水平、黄体生成激素水平比较,差异无统计
期刊
自我国加入WTO以来,对外投资飞速发展,成就了中国式增长奇迹,这一奇迹背后产生的原因令人深思。在探究我国OFDI增长的影响因素时,中国特色制度因素无法忽略。财政分权和地方政府竞争在我国经济改革转型发展过程中扮演着不可忽视的角色。财政分权的经济激励给予地方政府财政自主权;地方政府竞争背后晋升机制的政治激励给予地方政府官员积极性以大力发展本地经济。这些因素为地区OFDI的发展提供了经济基础和政治条件。
学位
随着老龄化时代的到来,老年人口占总人口比重不断上升,由此引发的社会问题日益凸显,世界各国亟需采取有效措施解决养老问题。近年来,我国老龄人口数快速增长,老年人健康问题愈发突出,由于年龄的增长和各种疾病频发,部分老年人逐渐失去正常生活的能力,成为失能或半失能老人。老年群体不仅需要各种养老服务,还需要更加丰富便捷的医疗服务,功能单一的传统养老机构已经无法满足老年人的健康养老需求。在此背景下,医养结合养老
学位
企业合规是指,在生产经营过程中,公司及其员工的行为应当符合相关法律法规、监管政策、行业准则、公司章程乃至国际通行的条约、原则等要求。本文所探讨的企业环保合规正是在法治的语境下,试图将企业环境治理纳入国家法治轨道,促进环保合规理论的中国化,将其融入依法治国、依法治企的大框架。2021年3月,“十四五”规划纲要提出要健全现代环境治理体系,加强企业环境治理责任制度建设,对我国企业的环保管理合法合规水平提
学位
目的 探究量化食物稠度联合“3S2E”护理模式对脑卒中后吞咽功能障碍患者误吸发生率、吞咽功能及上臂肌围的影响。方法 选取2019年2月-2022年2月收治的脑卒中后吞咽功能障碍患者114例纳入研究,随机分为对照组(57例,常规护理+“3S2E”护理模式)和联合护理组(57例,常规护理+“3S2E”护理模式+量化食物稠度),护理周期为30 d。观察并比较两组误吸发生率、吞咽功能、上臂肌围以及干预有效
期刊
原油价格的高低直接影响到原油供应链上下游企业利润空间的大小。然而,当下全世界经济大环境处于下行期,国际金融市场不稳定性日益加重,持续性的价格波动从宏观层面传导至国际原油期现货市场。另外,一些国际性突发事件如新冠疫情、苏伊士运河堵船事件等,使国际油价在持续波动的基础上又会出现短时间的巨大幅度涨跌,这对于石油炼化业、交通运输业这些原油相关企业都是极为不利的。为了避免或尽力减少价格波动带来的损失,相关企
学位
金银花又名忍冬或双菊,是一种效果良好的药用植物,对治疗丹毒、肺炎、咽喉痛、蜂窝织炎、热病以及感冒引起的血痢等疾病有很大的功效。其有效成分富含有机酸、磷脂、黄酮类等,具有散风热、清凉解毒的功效。随着医药和人类疾病科学的不断发展,忍冬藤的药理作用将越来越广泛地应用于人们的日常生活中,临床医用价值突出。本文对金银花的药理作用进行了总结,以期能为今后的研究提供一些参考。
期刊