Transformer模型相关论文
时间序列广泛存在于现实世界的各个领域,其相关的预测任务使用历史时间段的观察点序列来预测未来时间段可能的观察点序列,对工业、......
互联网的普及为电商的发展提供了平台,在这股东风的助力下,每日都会产生大量的网络订单,极大促进了我国经济的繁荣。与此同时,各大......
在传统投资组合模型中，备选资产的预期超额收益率的预测误差将导致模型的投资绩效劣化。文章采用Transformer深度学习模型对备选资......
针对机器识别人类情感过程中的精度不高、泛化能力不强等问题，提出了一种基于语音、文本和表情动作的3种模态情感识别融合方法。在......
传统基于规则的web攻击检测方法需要人工设计添加规则，规则较多时消耗的计算资源会增长并降低检测效率，且无法识别未知攻击；近年基于......
提出一种基于Transformer模型的通信信号调制识别方法：在数据准备阶段，构建一个不同符号速率调制识别（DSRMR）数据集；在数据预处理阶段，提......
基于气象历史观测资料，将长短期记忆网络LSTM方法和Transformer模型结合提出了混合短期风速多步预测模型BLSTM-TRA。以山东半岛南部......
针对目前城市轨道交通短时客流量预测模型在构建特征时容易忽略客流变化周期依赖性的不足，提出了一种考虑多时间尺度特征的混合深度......
随着现代电子技术的蓬勃发展，人工智能在军事领域呈现快速上升的鳌头趋势，同时也面临着数据量严重不足的困境，针对目前侵彻多层过载信......
针对金属缺陷识别领域中传统深度学习方法存在参数量多、计算量大的问题，提出了一种浅层卷积神经网络融合Transformer模型的金属缺......
基于像素相关性的传统视频压缩技术性能提升空间受限，语义压缩成为视频压缩编码的新方向，视频图像重建是语义压缩编码的关键环节。首......
针对当前多模态网络存在模态特征信息提取困难、模态间的信息差异，模态间信息融合不充分而导致网络模型预测精度低等问题，提出基于ST......
鉴于测量精度高、设备成本低等优点，基于单目图像的卫星位姿估计方法在交会对接、空间攻防等应用中具有广泛前景。得益于强大的特征......
针对现有机器翻译模型翻译质量低的问题，通过结合多粒度特征融合与基于ELMo模型的动态词向量，并以采用多粒度位置编码和多粒度自注意......
KPI异常检测一直是AIOps（智能运维）领域里一项非常重要的任务。在大型互联网公司（特别是通信公司运营商）中,运维部门的工程师一般在后......
近年来,机器学习在文本生成任务中的应用已成为学界和业界共同关注的热点话题。传统研究将深度神经网络应用于文本生成任务时,大多......
语音合成作为如何将机器智能化的关键研究领域,旨在解决如何让机器发声的问题。随着社会智能化程度越来越高,智能语音设备已经融入......
互联网上产生大量的非结构化文本数据,如何有效的从这些非结构化的文本数据中挖掘并抽取实体和关系信息就要涉及到实体关系抽取研......
滚动轴承作为电机的重要组成部件,其运行工况复杂多变且服役环境恶劣,导致轴承容易出现故障,进而降低整个电机系统的可靠性。传统......
随着流媒体技术的快速发展,在线视频资源日益丰富,用户已经不仅仅满足于观看视频,而是希望可以表达自己的观点。然而大多数情况下,......
目前在苹果生产中,农户获取技术指导的途径主要是他人经验以及基于检索式的问答技术,获取方式单一、效率差、依赖知识库,因此苹果......
电商平台中真实可信的用户评论可以帮助消费者做出正确的消费决策。然而,受不同动因驱使,电商平台中也充斥着大量虚假评论。虚假评......
随着航空运输国际化进程的不断深化和航线网络的不断拓展,国内空域中的外航飞机越来越多,由于军航的管制人员使用英文空管指令的场......
近年来,深度学习的应用不仅在图像识别、文本生成等领域表现突出,在自然语言处理方面也效果显著。自然语言处理系统在生活中比比皆......
平行句对抽取是缓解低资源机器翻译中数据稀缺问题的关键任务,同时也是提升机器翻译性能的重要手段。但是目前平行句对抽取的方法......
准确的滚动轴承剩余使用寿命（remaining useful life，RUL）预测对保证机械安全运行和减小维修损失起着至关重要的作用。为提高滚动轴承......
命名实体识别是自然语言处理技术中的基础任务。作为转化非结构化文本数据的关键步骤和重要手段,命名实体识别在信息提取、问答系......
随着互联网的全面普及,人们在微博、论坛、点评网站、购物网站等平台上发表的观点和评论数量呈指数形式增长。通过对这些数据进行......
人类营养健康命名实体识别旨在检测营养健康文本中的营养实体,是进一步挖掘营养健康信息的关键步骤.虽然深度学习模型广泛应用在人......
针对长时间序列电力负荷的预测精度低的问题,应用了基于Informer长时间序列模型的电力负荷预测方法.该方法通过Informer模型中的自......
股票市场中拥有大量用于描述股票价格变化的财务指标,这些指标为股票价格预测提供了良好的数据基础.但由于股票数据存在高维相关性......
随着互联网的发展和人工智能技术的革新,大量的文本信息出现,如何生成优质的句向量,对文本相似度进行衡量成了当前研究的热点和难......
对话系统是自然语言处理的研究热点之一,其研究任务包括对话生成、对话匹配、对话状态跟踪和对话动作识别等。目前有关研究集中在......
针对循环神经网络模型无法直接提取句子的双向语义特征,以及传统的词嵌入方法无法有效表示一词多义的问题,该文提出了基于ELMo和Tr......
本文针对实际党建领域中的新闻标题进行自动生成,提出了一种融合指针网络的自动文本摘要模型-Tri-PCN.相比于传统基于编码器-解码......
针对日趋复杂的海上交通情况,船舶航迹的跟踪预测问题显得尤为重要,然而船舶航行轨迹的数据是具有长期特性的数列,而且易受到风浪......
依赖雷达测量数据的炮位侦察在遇到炮弹低射角时面临极大的挑战。雷达观测数据弧段短、测量误差大,且具有数据批量小、非线性、不......
针对中文拼写纠错,提出两种新的改进方法。其一,在Transformer注意力机制的基础上,添加高斯分布的偏置矩阵,用于提高模型对局部文......
为缓解输入语句中噪声对回复生成模型的干扰,提出一个基于编码–解码框架的抗噪模型。首先,在训练集输入序列中随机加入模拟噪声字......
数据到文本的生成是指从结构化数据生成连贯文本的一种自然语言处理方法。近年来,由于端到端训练的深度神经网络的应用,数据到文本......
传统对电商评论做分类的方法使用词袋模型或者简单的提取文本TF-IDF特征方法使用SVM或者传统机器学习模型对评论文本进行分类,近些......
Google Brain提出了一种用于神经机器翻译(NMT)的简单模型Transformer,该模型完全基于注意力机制,避免使用循环神经网路(RNN),解决......
电力调度领域命名实体识别是电力知识图谱构建步骤中的重要一环,目前存在基于机器学习和深度学习模型被用于通用领域或是其他专业......
随着深度学习与时间序列传统模型的融合发展,通过利用大量可用数据在整个时间序列集合中估计全局模型的参数,使得传统的局部建模方......
古诗是中华民族的文化瑰宝。基于Transformer模型,利用开源的深度学习库Tensor2Tensor,仅需编写几十行代码即可创建出一个写诗机器......
已有DGA检测方法已经获得了较高的检测精度,但在缩略域名上存在误报率高的问题。主要原因是缩略域名字符间随机性高,现有检测方法......
微博谣言检测对净化社交网络环境与维护社会和谐发展有重要意义。主流的社会网络谣言自动检测方法甄别网络中每一条信息的真实性,......
行为识别是计算机视觉领域中的一个重要方向,也是近年来随着深度学习浪潮兴起的一个研究热点。行为识别技术以图片、视频信息为基......
随着互联网的快速发展,微博、电子商务、论坛、微信等网络平台已经得到了广泛的应用,这些网络平台所产生的短文本信息都以数据流的......
随着计算机行业的不断发展,软件漏洞问题也日益严重。模糊测试作为漏洞挖掘常用的方法,被用来检测各种软件以及应用程序中是否存在......
