【摘 要】
：
近年来，由于Transformer模型中应用的多头注意力机制能够有效地捕获较长的上下文信息，基于Transformer的模型已经成为主流方法。尽管这些模型能够有效捕获全局上下文信息，它们在局部特征和位置信息提取方面仍然有限。因此，本文提出了一种基于多窗口注意力机制的中文命名实体识别模型。首先，通过基于Transformer的预训练语言模型RoBERTa把文本表征为字符级嵌入向量，捕捉深度上下文信息
【基金项目】
：
工业装备质量大数据工业和信息化部重点实验室开放课题项目（2021-1EQBD-02）资助； 广东省国际科技合作领域项目（2019A050513010）资助；
论文部分内容阅读
近年来，由于Transformer模型中应用的多头注意力机制能够有效地捕获较长的上下文信息，基于Transformer的模型已经成为主流方法。尽管这些模型能够有效捕获全局上下文信息，它们在局部特征和位置信息提取方面仍然有限。因此，本文提出了一种基于多窗口注意力机制的中文命名实体识别模型。首先，通过基于Transformer的预训练语言模型RoBERTa把文本表征为字符级嵌入向量，捕捉深度上下文信息，得到全局上下文信息；其次，局部特征提取模块利用多窗口循环机制，在全局特征提取模块的引导下提取局部特征和位置信息；最后，所提出的多窗口注意力机制有效地融合全局特征和多个局部特征来预测实体标签。在CMeEE和MSRA数据集上进行了实验验证；结果表明，本文所提出的模型分别获得了64.31%和94.14%的F1值，性能优于其他同类模型，验证了其在中文命名实体识别的有效性。
其他文献
以26份北方白菜型冬油菜为材料，通过观察记载冬前植物学性状、测定半致死温度(LT50),分析冬油菜春播后的春化率与抗寒性的关系，并利用筛选出的SRAP、SSR和InDel标记对参试材料进行聚类和遗传多样性分析。结果表明，白菜型冬油菜植物学性状具有丰富变异，遗传多样性指数Simpson（D）变化范围为0.011～0.847,Shannon-Weaver（H）变化范围0.035～2.046,其中数值型
目的 研究乙型肝炎病毒（HBV）感染与肝细胞白细胞介素35（IL-35）表达的关系，并进一步探讨IL-35能否影响HBV复制及抗原分泌。方法 转染含HBV全基因组（GenBank:GQ205440.1）1.3倍的复制子质粒或HBV编码基因表达质粒至HepG2细胞或LO2细胞以体外模拟HBV感染肝细胞，实时荧光定量PCR和Western blot法分析细胞内IL-35两个异源亚基EB病毒诱导基因3（
＜正＞中国是世界上最早发展畜牧业的国家，根据考古发现，中国的野生动物驯化起源于大约1万年前的中石器时代。新中国成立50多年来，我国畜牧业发展的成绩斐然。尤其是20多年来，随着国家和国务院的各项方针政策的深入实施，我国畜牧业生产规模不断扩大，主要畜禽产品产量连续20年保持10%左右的速度增长。1980～1998年，全国肉品、蛋品、奶的年均增长8.7%、12.1%、9.9%。2004年，中国畜牧业克服
Krashen（1985）认为语言习得是通过语言输入完成的,教学的精力应该集中在为学生提供最佳的语言输入之上。在实际教学之中,虽然教师与学生花费了大量精力于写作教学与练习之中,但是英语写作一直是教学的难点。近年来,语块越来越受到学者和一线教师的关注。语块是语法、语义和语境的结合体,可以作为整体被学习和储存在大脑之中,也可以在使用时直接提取（于秀莲,2008:54）。而背诵在我国也有悠久的使用历史。
根据英语课程标准,英语教学的最终目的是帮助学生用英语与他人交换信息,合作完成任务。英语口语,作为英语五项基本技能的重要组成部分,值得高度重视。然而,英语口语教学在初中英语教学中一直处于边缘地位,大多数学生的英语口语能力不佳。TPR（Total Physical Response）教学法是由实验心理学教授 James Asher（1969）在《学习另一种语言行为》一书中提出的。1969年,阿舍教授进
2020年",直播带货"成为一个热词。文章从"直播带货"这一现象入手,深入探讨"直播带货"在新媒体平台上的兴起与发展,并针对目前直播领域出现的乱象,提出"直播带货"可持续发展之路,强调以产品、质量、服务、信誉为基础和前提,才能打造良好的直播经济生态,使"直播带货"助力推动国家经济发展与繁荣。
纺织品服装在贮存、使用过程中会出现一些沾色、渗色等质量问题，本文根据实际检测过程中遇到的质量案例，针对相关检测结果进行深入分析，探究其出现的原因，并提出预防措施，以帮助企业更好地避免潜在质量风险问题。
思辨能力的培养是英语教育的重点目标之一,而英语写作是培养学生思辨能力的一个手段。但长期以来,受传统写作教学模式的影响,教师在写作教学中忽视对学生写作思辨能力的培养,这在学生作文中反映得尤为明显,通常表现在分析不够全面和内容不够充实。课堂合作学习作为能够激发学生思维碰撞的途径,通过小组间互动交流,可以提高思辨力。这对于开展写作教学来培养学生写作思辨力提供思路。然而,目前课堂合作学习的写作教学对学生写
＜正＞进入21世纪,景德镇陶瓷雕塑又有一种新的变化,涌现出各种观念,各种思潮,各种艺术表现形式,特别是在对材料的挖掘和应用方面,上升到了一个哲学、社会学以及人文学等各种学科层面。作为陶瓷雕塑已不再是单一孤立的艺术品类,通过跨界交流,产生碰撞出诸多的语言表达方式。从事陶瓷雕塑艺术创新人员,基本上是外地到景德镇进行研学和艺术实验的美术院校及国内外知名艺术家,他们对景德镇的陶瓷材料有着独特兴趣,在景德镇