基于前馈神经网络的时间序列预测问题研究

来源 :南京大学 | 被引量 : 0次 | 上传用户:ivyqbw
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
时间序列预测问题的研究至关重要,从电商销量预测到股票价格预测等,随处可见其应用场景。时间序列预测任务也是学术界长久以来的研究重点,随着数据形式的复杂化,模型也从最初基于序列稳定性假设的传统统计学方法发展到可以处理非平稳数据的机器学习方法,然而序列特征表示和损失函数的设计等问题仍然是时间序列预测面临的挑战。本文针对时间序列预测中的特征表示问题,结合现在神经网络方法的优势,利用时序卷积模型、注意力机制和残差结构设计了一种能够具有循环网络建模序列相关性能力的网络结构,即前馈序列模型(Feed-forward Sequential Network,FSN),此模型旨在模拟循环网络对序列化属性的建模方式,同时克服循环网络梯度消失、训练效率受限和长时记忆衰减的缺点,我们利用时序卷积网络和时序注意力机制达到了对序列化属性的表征,利用残差结构让网络能够加深的同时防止网络退化。我们从信息流动和在标准数据集实验两方面对模型的有效性进行验证,实验结果表明,FSN能够提升时间序列预测准确度,对不同长度输入序列的敏感性分析实验还证明了FSN能够有效控制训练效率,防止出现循环网络中随着输入长度增加而训练效率降低的问题。另外,本文还从损失函数的角度对时间序列预测模型进行优化,现有常用损失函数未能在训练过程中重点关注序列的形态学习和延时性问题,这导致模型的预测结果出现未能有效预测波动或未能准确预测波动产生时间的现象,而这对于很多实际场景是至关重要的。我们从形态学习和延时性两方面出发,结合DTW度量方法设计了多尺度DTW和TDI结合的损失函数MS-DTWI(MultiScale DTW with Temporal Distortion Index),我们将MS-DTWI与其他时间序列预测损失函数做对比,用实验验证了此损失函数的有效性和更好的学习效果,同时为了验证损失函数中超参数对训练的影响,我们设计了敏感性分析实验,给出对MS-DTWI更全面的分析。最后,为解决大型连锁企业对商品的管理和销量预测问题,我们设计并实现了“金牛(Taurus)系统”,系统不仅能够进行库存管理、商店管理和交易管理,还可以对商品做进一步的关联分析,从流动的商品销售数据中挖掘更多有价值的信息,同时利用历史商品的销售数据和已知可用的时间日期特征对未来商品销售数量做出预测。其中预测环节不仅集成了传统统计学算法,还采用了上述提出的基于前馈序列模型的时间序列预测算法,让系统能够适应不同数据量场景的需求,系统对关联分析和销量预测能力都做了可视化展示,让用户更直观地感受系统智能。
其他文献
针对乡村景观的相关概念、乡村景观构成要素及营造乡村景观的重要性展开分析,并将其视为切入点,与实际情况相结合,对我国乡村景观营造方法做出深入、细致的探讨,以期为相关从业人员提供一定的参考。
机器学习需要大量的有标记数据,而标注数据通常需要人工参与,耗时耗力代价昂贵。如何降低训练满足精度要求的机器学习模型所需的标注代价是机器学习领域中的研究热点。主动学习通过询问最具信息量的数据标记,能够用尽可能少的有标记数据得到尽可能好的模型,从而降低标注代价。这些需要主动学习询问标记的数据如果采用人工标注,标注代价仍然很高。众包是一种廉价的数据标注方式,但由于雇员水平参差不齐,标记质量较低,需要利用
中高纬环流及其伴随的瞬变涡旋活动对东亚夏季天气气候具有重要的影响。本文首先利用CFSR再分析数据,分析了多年平均的东亚夏季环流结构及瞬变涡旋活动特征,并利用诊断分析,初步揭示了瞬变涡旋活动对东亚夏季环流的影响。再通过WRF模式进行两组对照试验,北边界试验用控制性试验和敏感性试验分别模拟了受到/不受到东亚北部中纬度瞬变涡旋活动影响的东亚夏季环流和降水,西边界试验用控制性试验和敏感性试验分别模拟了受到
盾构施工掘进过程中的施工控制至关重要,在各种地质条件下进行盾构掘进技术控制千差万别,但技术原理大同小异,其中盾构机在上软下硬地层掘进一直是施工中比较受关注的重难点之一。对成都地铁6号线土建某标段地层的盾构掘进控制技术进行归纳总结,提出在浅覆土上卵石下泥岩地层的盾构施工中存在的施工技术难点,找出具体解决措施,并形成初步结论及建议,以提高该地质层的施工质量,防止地面塌陷,并快速连续地进行掘进,节约施工
研究背景:良性前列腺增生在当下已经成为中老年男性泌尿系统中的常见病,随着我国人口老龄化高潮的到来,其发病率逐年攀升,影响着中老年男性健康及生活质量水平。良性前列腺增生从微观上表现为前列腺上皮和间质细胞过度增殖,宏观上表现为膀胱出口和前列腺尿道部发生梗阻性病变,临床上会出现膀胱尿液流出梗塞等症状。其发病风险随着年龄增长而增加,50岁以上中老年男性有六成患有该病,而到了80岁时老年男性的发病率则达到惊
本文研究了具有混合约束的最优控制问题,即问题的约束条件是状态变量与控制变量的混合约束。本文将此最优控制问题的最优性条件表示为无穷维变分不等式,利用变分不等式理论建立了最优控制问题的可解性,并建立了正则Galerkin逼近方法,此方法通过计算有限维强单调的变分不等式为最优控制问题提供了近似的最优解。
目的:通过对化痰活血宽胸方联合中药足浴治疗冠心病不稳定型心绞痛(痰瘀互结证)的病例进行回顾性研究,探讨化痰活血宽胸方联合中药足浴治疗冠心病不稳定型心绞痛的临床疗效,并为临床治疗该疾病进一步提供中西医结合治疗的思路及方法。材料与方法:选取河北省中医院心血管科2017年9月-2019年9月期间符合纳入标准的西医诊断为冠心病不稳定型心绞痛,中医诊断为胸痹心痛病(痰瘀互结证)的住院患者共150例。根据临床
海陆风是发生在沿海地区由海陆热力差异引起的中尺度局地环流,通过影响大气边界层来改变局地的温度、湿度还有风场等气象要素,进而对局地天气、气候产生影响。受局地天气和地形等条件的影响,目前对于海陆风的探讨多局限于局部地区或城市,对于中国沿海多地海陆风的比较研究还比较缺乏。本文利用2015——2018年的气象观测数据和再分析资料等统计中国沿海主要城市群的海陆风天气特征规律并比较不同地区间的差异,分析纯海陆
学位
“建设教育强国是中华民族伟大复兴的基础工程”,提升高等教育质量,建设一流学科、培养一流人才,提升学生综合素质成为21世纪的教学主流。为了更好的培养学生的合作能力,带动学生全面发展,本文对在线教育进行相关分析,结合时代特征,笔者将MOOC和SPOC(Small Private Open Courses)的比较,通过相关数据的分析和整理,了解当今SPOC的发展状况并结合当今线上教育的研究热点,针对当前