量子多体波函数语言模型及其应用

来源 :天津大学 | 被引量 : 0次 | 上传用户:Dream_624727
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
量子理论的发展衍生了基于量子概率构建语言模型的研究,有学者提出量子语言模型(QLM)并将其应用于信息检索任务中,该模型利用量子理论中的密度矩阵建模句子中的词项依赖。近年来,为了扩展量子语言模型的理论和应用,神经网络量子语言模型(NNQLM)将密度矩阵嵌入到神经网络模型中,该模型利用神经网络技术训练句子的密度矩阵表达。然而,这两种量子语言模型依然存在一些限制:第一,量子语言模型无法构建句子中多个词之间不同语义的相互作用;第二,NNQLM中神经网络主要是为了训练效果的提升,神经网络与量子语言模型的联系有待从理论上进一步研究。为了解决这两个难题,在本文中,我们提出了基于量子多体波函数的语言模型(QMWF-LM)。在该模型中,句子由高阶张量表示,我们认为高阶张量具有比密度矩阵更强的表达能力并能构建句子中多个词不同语义的相互作用。为了使QMWF-LM可以应用于实际的自然语言处理任务,我们探究了高阶张量分解和卷积神经网络(CNN)的联系并基于CNN模型对高阶张量进行求解。QMWF-LM从理论上构建了卷积神经网络,语言模型和量子力学的联系。我们设计了一个端到端的算法将QMWF-LM应用于问答任务中,为了使得实验的结果更具有说服力,我们将模型应用于TREC,WIKI传统问答数据集和基于社区问答的Yahoo数据集。实验的结果表明QMWF-LM比QLM和NNQLM有显著的提高。
其他文献
大豆是人类摄取植物蛋白和食用油的主要来源,平均含有约40%的蛋白质和20%的油分,开展大豆蛋白质/油分含量数量性状位点(QTL)定位和相关候选基因挖掘的工作,对大豆高油/高蛋白
公司是市场经济中的重要成员之一,随着经济的发展,以及公司中所有与经营分离体制的需要,公司的经营管理人员需要被监督和制约。监事会作为公司内部的专门监督机构,负责监督公司董事以及高管的经营行为,可依据股东的申请,提起代表诉讼,对公司的利益进行救济。但在实际的运作中,监事的这一项监督权并不能得到很好的适用。文章第一部分从现有的监事会代表诉讼制度存在的困境入手,讨论了关于立法以及实践中所存在的困难。我国监
油菜素甾醇类化合物作为第六类植物激素,对植物的生长发育起着很重要的作用。如促进细胞的伸长与分裂、提高作物的产量品质、增强植物的抗逆性、调节五大激素的平衡、降低农
本论文合成的七元环骨架是一种7H-二苯并[b,d]氮杂(艹卓),是一类重要的中型氮杂环骨架,它存在于多个具有重要活性的中间体中,通过修饰,它可以转化成具有生物活性的、结构更为复
本文基于固结-蠕变理论,分析了软土地基沉降机理,并从实际项目出发,对堤防进行沉降变形监测,并对数据进行深入分析,掌握堤防沉降过程及沉降变化规律。通过钻探取芯取样进行室
公司的投资行为是公司经营过程中的关键环节,投资决策的有效性和正确性直接影响着企业的生存和发展,并对企业资源配置的高效性与股东财富产生影响。然而资本市场中普遍存在着委托代理问题和信息不对称问题,两者导致我国非效率投资行为频繁发生。已有研究证明,高质量的会计信息可以通过定价功能和治理功能,吸引外部投资者,减少融资约束,降低融资成本,缓解投资不足;还可以提高对管理层的监督与制约力度,降低代理成本,抑制过
视频转码是一种将已压缩的视频数据从一种类型转换为另一种类型的技术,广泛应用于视频会议、网络直播和远程教育等方面。由于视频在接收、传输或者存储的过程中,往往会受到外
材料的原生成分和结构以及测试参数都会影响综合性能。本论文以La-Co-Al、Zr-Cu-Ni-Al金属玻璃薄膜为研究模型对纳米压痕实验中加载速率对力学性能的影响进行了详细分析,并对这两种成分的薄膜进行了比较研究。另外以Zr-Cu-Al-Ti金属玻璃薄膜为研究模型探索磁控溅射过程中基底温度对结构和性能的影响。本论文进一步揭示了加载速率、成分和基底温度对金属玻璃薄膜综合性能的影响,有助于未来再深入研究
水稻是世界上最重要的粮食作物之一,对高产品种产量性状的解析在保证粮食安全上有重要意义。水稻产量三要素为有效穗数、每穗粒数和千粒重。内2优6号是一个高产优质的三系超
近年来,延长治疗性抗体半衰期已成为抗体工程改造的重点。抗体半衰期的延长不仅可以提高药效,减少给药频率,而且可以降低治疗费用。利用Fc基因改造以提高抗体和人新生儿Fc受