基于门控联合池化自编码器的通用性文本表征

来源 :中文信息学报 | 被引量 : 0次 | 上传用户:jsptpd_dryy
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
为了学习文本的语义表征,以往的研究者主要依赖于复杂的循环神经网络(recurrent neural networks,RNNs)和监督式学习方法。该文提出了一种门控联合池化自编码器(gated mean-max AAE)用于学习中英文的文本语义表征。该文的自编码器完全通过多头自注意力机制(multi-head self-attention mechanism)来构建编码器和解码器网络。在编码阶段,提出了均值-最大化(mean-max)联合表征策略,即同时运用平均池化(mean pooling)和最大池化(
其他文献
公务员相对与普通公民,他们是执法的主体,属于强势群体;而在行政关系内部,由于他们是被管理的对象,他们的合法权利被损害以后,很难寻求外部力量的救济,这个时候,他们又属于弱
青原系是中国佛教历史上非常有名的派别,他起于青原山,在石头希迁建立石头宗后达到大力发展,虽经历“会昌法难”这一浩劫,在其他佛教宗派都衰落的情况下,却仍然得以保留并在之后迅速恢复,不得不令人感叹。在思想文化上,青原禅系的禅学思想很多,最著名的当如石头希迁的《参同契》、《草庵歌》;曹洞宗的“五位学说”,这些成果都对中国佛教的思想文化建设起到重要贡献。另外,青原禅系在具体的教学方法上也是也将禅宗“不立文
本文通过对12个钢管约束混凝土压弯构件进行往复荷载作用下的荷载-变形滞回性能试验,探讨钢管约束混凝土压弯构件荷载-变形滞回曲线的特点,并对钢管约束混凝土压弯构件P-Δ滞
为了研究辅助装置结构参数对新型聚能装药性能的影响,利用AUTODYN-2D对新型药型罩结构进行了数值仿真分析。通过对球缺药型罩添加辅助装置,并改变辅助装置的结构参数得出:辅
区域创新体系理论是在国家创新理论的基础上出现的,海洋产业区域创新则是区域创新体系理论在特定区域海洋产业中的应用。通过梳理环三都澳区域海洋产业发展中存在的若干问题,
本文对音乐心理学的发展概况,对我国声乐教育的发展的意义,以及对声乐演唱过程中的作用和具体表现等方面部作了比较详细的论述,并简单总结了克服这些心理状态,以达到良好的演唱效
1月25日即农历正月初一,习近平主持中共中央政治局常委会会议并作出专门部署,李克强总理任组长的中央应对新型冠状病毒感染肺炎疫情工作领导小组成立,开始在全国范围内实施非常
报纸
随着中日两国经济和文化交流的日益频繁,跨文化交际成为当前我国众多高校日语教学的重要课题。新形势下,传统的日语教学逐渐显露弊端,日语教学改革已提上日程。只有通过改革,
在焦炭现货产业链中,各经营主体时刻面临着价格波动带来的风险,而焦炭期货的出现和应用,为现货企业的经营管理提供了多样化的保值手段,能够帮助企业实现降低经营风险、增加盈利途
报纸
Eshelby问题的研究历史已经超过半个世纪,建立在椭球夹杂Eshelby张量均匀性基础上的等效夹杂法已经成为复合材料细观力学的基石,由此发展出多种用于估计非均匀材料有效性质的