基于LSTM神经网络及注意力机制的科技趋势预测

来源 :华中科技大学 | 被引量 : 0次 | 上传用户:lijia6685621
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
随着当今时代科技不断地飞速发展,科技信息也在急剧增加,收集并挖掘分析这些来源多样化的科技信息,有助于推动科技的发展。而预测作为一种重要的数据研究方法,在各个行业各个领域都有着广泛的应用。因此,面对数量如此庞大且繁杂的科技信息,如何对其进行有效地利用来实现科技发展趋势的预测及分析,具有重要的研究意义。针对传统的预测模型大多存在准确度低、收敛速度慢的问题,并且为达到长时预测的效果,提出一种基于注意力(Attention)机制和跳层(Skip)连接优化的长短期记忆网络预测模型(简称ASLNet)。LSTM是循环神经网络(RNN)的一种,它有效地改善了RNN梯度弥散的问题,添加了长短时记忆的功能,保持了模型的持久性,可以很好的解决长期依赖问题;Attention机制即注意力机制,其原理是模拟人脑的注意力模型,本质是一个加权求和的过程,通过给信息赋予不同的权重来凸显某一步的信息。本文使用注意力机制对LSTM网络进行优化,在时间粒子维度上对神经元各时间步的输出乘上相应的权重再相加,得到最后的输出值,从而提高预测精度;而跳层连接则可以改变LSTM网络传播的时间步长。从科技文献、技术成果、科研经费等方面的变化数据入手,根据某一领域不同范围每一年的统计数据来构建数据集进行量化分析。以人工智能领域为例,它包含计算机视觉、自然语言处理等多个范围,按照不同范围分别以年单位统计科技文献数量、研究经费数量、技术成果量等数值,经过数据预处理后构建时间序列,输入到模型的双分支结构中,其中一条分支是具有Attention机制的LSTM网络,另一条是Skip-LSTM网络,通过结合两条分支的输出值得到最终结果,反复迭代,直至模型收敛。实验结果表明,相比于LSTM模型和部分其他常用预测模型,ASLNet模型有着更高的预测准确度。
其他文献
连翘(Forsythia suspensa(Thunb.)Vahl)为木犀科(Oleaceae)连翘属(Forsythia)落叶灌木,早春开花,开花数量多且花色金黄艳丽,具有较强的适应性和抗病虫害能力。连翘不仅是我国大宗、常用中药材,而且有着良好的生态价值、观赏价值,是北方地区优良的早春观花灌木。基因工程育种是一种有效的育种手段,由于缺少转基因体系阻碍了连翘的基因工程育种,导致目前缺少栽培品种。现
市政道路工程是现代城市建设发展中十分重要的项目,项目施工质量对城市发展及市民的生活有重要影响,因此市政道路工程项目的管理备受重视。阐述做好市政道路工程项目质量控制的必要性,分析市政道路工程在质量管理、成本管理、安全管理方面的具体内容。结合实际案例,提出在市政道路工程项目管理中要明确控制主体,梳理清晰的管理目标,制定精细化的管理计划和措施,提高管理质量。
在2017年版的《普通高中音乐课程标准》中,音乐鉴赏课作为高中音乐课的一个重要组成部分,是培育学生音乐审美感知和文化理解素养的重要途径。在新课标背景下,各种新的教育观念和教学方法层见迭出,并不断地融入音乐课堂。情境教学法,可以有效提高学生的学习兴趣、提高课堂的教学质量、丰富教师的教学方法。可见,对独具特色的情境教学法进行实践探究显得尤为重要。笔者运用了文献分析法、实地观察法和教学实验法等多种方法,
为了提高无人机(UAV)的通信效率,对UAV通信方案进行了系统建模和理论分析,提出一种通过机载波束成形技术提高UAV上行链路吞吐量的解决方案。其中,在UAV上使用波束成形技术对辐射干扰进行空间过滤,有效改善UAV上行链路性能,同时尽量减少对地面用户的影响。通过波束切换技术,将波束指向干扰较少或负荷较低的小区,改善负荷平衡,进一步提高通信吞吐量。理论分析和实验验证结果表明,所提方案可大幅提升UAV上
现阶段,国内各级地区都在大力研究智慧城市的发展方向。智慧交通作为较成熟完备的部分,已然成为智慧城市的关键性元素。文章以连云港市赣榆区金海路建设工程智慧交通专项作为研究对象,针对交通信号指示灯、公交站台、智能公共设备等方面内容展开研究分析,阐述了智慧交通在市政道路建设项目中的影响。
近年来,环境污染问题越发受人关注,其中重金属污染问题已经逐渐成为影响居民生活的重要污染类型。因此,为保障广大居民的健康,应关注现代食品检测行业中的重金属检测技术发展,为食品安全增添更强保障。本文结合食品中重金属检测新标准,对现阶段食品中重金属的提取方式、检测方法与检测技术应用进行分析,以期为今后的食品安全检测提供可靠参考。
目的 探讨在糖尿病专科护理教学中应用构思-设计-实现-运行模式的教学效果。方法 选取2020年9月—2021年6月参加糖尿病专科护理基地培训的80名护士作为研究对象,采取随机数字表法将其随机分为对照组和试验组,每组各40名。其中,对照组采用传统授课模式,而试验组的教学方案按构思-设计-实现-运行模式四步骤法设计并实施。比较两组培训护士干预前后的考核成绩,包括理论和操作技能、自我效能水平及培训满意度
针对一个全双工(Full Duplex,FD )双向通信系统提出了中继发射波束形成器的设计问题。该系统的两个源结点配备多根天线,附近的每个中继结点配备两根天线,一根用于传输,另一根用于接收。中继处在有限的发射功率和使用迫零归零技术下,设计了两种具有迭代线性复杂度的中继波束成形器: 最小化两个源结点加权均方误差和最大化较小源结点的信噪比。通过对加权总和传输速率和平均运行时间的仿真,数值实验验证了改进
<正>“综合性学习”重在言语实践,其重要性毋庸置疑。但是事实上“综合性学习”却是语文教学中非常薄弱的一环,这与“综合性学习”活动开展周期长、示范课少不无关系。那么,如何开展好教材中的“综合性学习”?如何自主开发“综合性学习”内容?叶圣陶先生曾说:“语文教材无非是个例子。凭这个例子要使学生能够举一反三,练成阅读和作文的熟练技能。”叶老这句话至少有两个方面的含义:第一,教材首先应该是个例子。对于“综合
期刊