基于Hadoop的作业调度负载均衡算法研究

被引量 : 4次 | 上传用户:luweb
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
随着Web2.0时代的到来,互联网的迅速发展,人们对网络的依赖越来越多。尤其是“互联网+”的提出,各大企业均响应号召,实施转型,各行各业每天都能产生海量数据,且呈爆炸式增长。由于海量信息的存储需求和新的计算能力的需求,促使了新的计算模式-云计算的诞生。而Hadoop是云平台中一个能够对大数据进行分布式处理的开源平台,是MapReduce编程模型的开源实现,也是众多学者进行大数据研究的首选平台。Hadoop的一个重要组件就是其调度器,它主要实现作业的调度执行和系统资源的合理分配,其调度算法的优劣对集群的性能有着至关重要的作用。因此对Hadoop调度器及算法的研究有着重要意义。本文通过研究Hadoop平台的现有算法,分析LATE算法的调度原理及优劣,针对其在异构环境下选择备份任务及执行节点时的不足,提出一个改进的IR-LATE调度算法。该算法首先对集群中的作业负载进行分类,选择备份执行时,通过IR-LATE调度算法为剩余完成时间最长、最需要备份的慢任务启动备份并选择最优节点执行。最后通过实验验证IR-LATE算法与LATE算法相比,不仅提高了对慢任务判定的正确性,还缩短了作业的平均运行时间,提升了集群的负载均衡。
其他文献
在信息技术革命的浪潮席卷下,办公自动化应用系统取得了迅速发展。随着应用的不断深入,办公自动化系统开始朝着集成化、智能化、网络化的方向发展;同时开发一个能够兼顾正确
随着互联网和移动技术的快速发展,人们对信息服务的需求有着明显提高,针对室内LBS(Location Based Service)的研究更引起大众的广泛关注。GPS定位系统虽然在室外环境下有着较
近年来,随着计算机技术、网络技术与无线通信技术的高速发展和广泛应用,无线传感器网络成为一个在国际上备受关注的前沿热点领域,被评为未来高科技的三大产业之一,它在军事、环境
应急预案流程是突发事件应急管理中重要组成部分,描述了在发生突发事件情形下怎么配置各种资源从而减少损失的规则集合,它直接决定突发事件所造成灾难的范围及程度。虽然我国
WSMO来源于WSMF,是当今最流行的语义Web服务描述框架之一,其目的在于增强Web服务描述的语义性,使Web服务成为计算机可以理解的实体。中介器是WSMO的四个顶层要素之一,用于解
随着嵌入式应用的复杂性的提高和对实时性要求越来越苛刻,作为其核心的嵌入式实时操作系统就显得尤为重要。现有的大部分嵌入式RTOS一开始的设计就着眼于系统的实时性,其应用
煤炭开采业作为高危行业,煤矿安全事故时有发生,威胁着矿工的人身安全,同时给企业也带来了巨大的经济损失。煤矿安全监控和通信系统作为提高煤矿生产安全的有效途径和手段,在
摘要:随着我国铁路跨越式大发展,铁路运输装备从传统的机车车辆向动车组转变,对车地通信的实时性和准确性都提出了更高的要求。利用计算机仿真的手段,来模拟动车组的实际运行
随着管理信息系统(Management Information System, MIS)的不断变化和规模的日益扩大,如何有效地控制系统的开发周期,开发成本以及软件质量,成为了开发过程中亟待解决的问题
随着信息化大潮的来临,网络攻击技术呈现出多样化,黑客攻击客户端已成为威胁计算机安全的最大隐患。目前计算机信息的安全问题很难单靠软件的方法解决,为此可信计算平台联盟T