基于LSTM的主机负载异常检测系统的设计与实现

来源 :东南大学 | 被引量 : 0次 | 上传用户:QQ343282482
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
主机是互联网公司最基础的资源之一,数量众多。传统的人工监控、阈值监控等方式难以满足对海量指标的监控需求。为了解决以上挑战,本文设计和实现了一个基于长短期记忆网络(LSTM)的主机负载异常检测系统。主要研究工作如下:(1)本文实现了对时间序列数据的自动化预处理。采用分段聚合估计法对齐了时间索引;针对指标的不同类型的缺失分别选用不同的机器学习算法进行填充;应用基线提取算法实现了指标降噪;最后使用滑动窗口算法将一维序列数据转化为特征矩阵与目标矩阵的组合以满足LSTM模型的输入数据要求。(2)由于监控指标众多,需要首先对海量指标进行聚类。为了优化对海量指标的聚类效果,本文采用了基于形状的距离计算方法用于计算两个指标之间的距离,提升了衡量指标距离的可解释性。本文将十万余个指标聚为了20个类簇,为每个类簇训练一个LSTM模型,相比为每个指标训练一个LSTM模型,大大降低了训练成本。(3)异常检测方法上,本文调研了各类时间序列异常检测技术,选择了最适合本系统的基于预测的异常检测方法,并采用LSTM作为时间序列预测模型。使用经典的三层LSTM网络结构作为本系统的算法模型。采用均值方差估计法使LSTM输出预测区间,根据真实值是否落在预测区间内做出异常判定。最后,本文实现了主机负载异常检测系统。主要功能模块包括数据接入、数据预处理、模型训练、异常检测、指标聚类和模型指派。该系统在企业生产环境中已上线161天,查全率达96.92%,查准率为82.47%,显著降低了运维成本。
其他文献
研究背景:石墨烯是二维碳纳米材料,主要包括:石墨烯、氧化石墨烯(Graphene oxide,GO)和还原型氧化石墨烯(Reduced graphene oxide,r GO)。GO由单层石墨碳和含氧官能团组成,因此具有高碳氧比和巨大比表面积,使其在电化学、传感器、纳米载药和废水处理中广泛应用。GO的广泛应用将导致其不可避免的环境暴露,进而可能对环境中污染物的行为和生物毒性效应产生影响。微囊藻毒素
学位
为明确生防菌剂枯草芽胞杆菌Bacillus subtilis HMB20428与化学杀菌剂嘧菌酯协同应用对葡萄霜霉菌Plasmopara viticola的抑制机制,结合生物学测定与显微表型观察方法分析其对葡萄霜霉病菌及活孢子囊的抑制作用,采用高通量测序技术分析其对葡萄叶部微生物种群多样性的影响,通过测定生理生化指标研究其对葡萄霜霉菌线粒体功能的作用。结果显示,枯草芽胞杆菌HMB20428与嘧菌酯
期刊
m6A即N6-甲基腺嘌呤(N6-methyladenosine)是指腺嘌呤上的N6位引入甲基的过程,是真核生物中最常见的RNA修饰之一,参与转录后基因表达的调控。近年来研究表明多种m6A甲基转移酶在肿瘤组织中表达异常,且m6A甲基转移酶表达水平异常与肿瘤以及环境有害因素暴露诱发的疾病密切相关。胃癌是严重危害全人类健康的疾病,而亚硝胺类化合物是致胃癌发病的重要环境危险因素之一,针对m6A甲基转移酶在
学位
与化学表面活性剂相比,表面活性素具有毒性低、环境友好和降低表面张力等特性,在农业、食品、医药和化妆品等领域具有良好的应用前景,但生产上存在产量低和成本高的问题。本研究采用紫外、化学和航天诱变多种诱变方法,对出发菌株枯草芽胞杆菌(Bacillus subtilis) YUAN.0进行选育和诱变,以血平板、氯化十六烷基吡啶-溴百里酚蓝(cetylpyridinium chloride-bromothy
期刊
旨在以枯草芽胞杆菌Bacillus subtilis J为生产菌株,发酵生产β-甘露聚糖酶,通过优化产酶条件,以达到提高β-甘露聚糖酶产量的目的。利用DNS比色法检测β-甘露聚糖酶活力,采用单因素试验,研究碳氮源种类及碳氮源浓度、温度、pH、接种量和装液量对菌株Bacillus subtilis J发酵产β-甘露聚糖酶的影响,结合响应面试验设计确定菌株Bacillus subtilis J发酵产甘
期刊
【研究背景】人类肠道病毒是一类主要生长于肠道的小RNA病毒,包含脊髓灰质炎病毒、柯萨奇病毒、埃可病毒及近年来陆续发现的新型肠道病毒等100多个型别。肠道病毒呈全球性分布,而人类是唯一宿主及唯一感染源,其主要传播途径为粪口传播,具高传染性。感染人体后,可造成急性弛缓性麻痹(Acute Flaccid Paraiysis,AFP)、手足口病(Hand,Foot and Mouth Disease,HF
学位
随着通信技术的全面发展,高频用微波器件的开发正如火如荼的进行着。作为微波射频终端设备的重要组成部分,微波滤波器成为研究的重点。然而,频谱的限制和高数据速率的要求,对滤波器提出了更高的要求。其中,超高Q微波介质滤波器由于高Q基材的存在能够满足信息时代高速海量信息传输的需求。因此,本文以滤波器用高Q介质材料Ba(Mg1/3Ta2/3)O3的研究为主要内容,分析其高Q的具体原因,特别是键长等微观结构的变
学位
为了降低酿造酱油含盐量,满足减盐酱油市场需求,文章利用纳滤技术对酱油进行脱盐处理,分析了压力、稀释水量对酱油纳滤脱盐效果的影响,确定最佳纳滤工艺:当压力为2.2 MPa,稀释水量为40%时,酱油脱盐率为30.3%,氨基酸态氮损失率为12.5%,酱油盐分降低至13.09 g/dL。对纳滤前后酱油中游离氨基酸含量和风味物质分析发现,游离氨基酸和风味物质均有损失,其中总游离氨基酸损失约5%,甘氨酸损失最
期刊
二氧化钒(Vanadium Dioxide,VO2)具有独特的金属-绝缘体相变(Metal-to-Insulator Transition,MIT)特性,可以通过多种物理场对其相变过程进行高速有效的控制。这一特性使得VO2在高速开关器件领域有着广阔的应用。然而VO2的相变机制复杂,且相变温度较高(约68℃),具有较高的开关阈值。因此,提高薄膜的红外开关特性以提高实用性,降低薄膜的相变调控阈值以提高
学位
动物益生菌-枯草芽胞杆菌的工业生产存在芽胞率不稳定等问题。在30 L罐水平研究不同发酵策略对枯草芽胞杆菌生长效率的影响,确定优化培养基与发酵条件:玉米淀粉35 g·L-1,豆粕40 g·L-1,葡萄糖5 g·L-1,酵母浸粉3 g·L-1,蛋白胨8 g·L-1,轻质碳酸钙3 g·L-1,七水硫酸镁0.5 g·L-1,氯化钠2 g·L-1,三水磷酸氢二钾2 g·L-1,一水硫酸锰0.3 g·L-1,
期刊