面向交通流数据的实时处理Storm调度算法

来源 :第五届中国计算机学会服务计算学术会议 | 被引量 : 0次 | 上传用户:lxj5186101
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
在流式数据的实时处理中,计算资源有效利用以及计算性能是计算平台的重要评测指标.本文在一个以storm为基础的计算平台上,实现一套自定义的调度机制,针对不同的计算任务,分配不同的计算资源,并提高计算性能.在storm提供的默认调度器之上,实现了一个称之为LightScheduler的调度器,改变了默认调度器顺序分配计算资源的策略,对计算资源进行逻辑层面的划分.根据一个计算任务的实际需求,将其分配给指定的物理计算节点,无特殊需求的计算任务采用storm默认的调度策略,把所有无特殊需求的计算资源顺序分配到storm计算集群的物理计算节点上,但是已经被LightScheduler分配掉的计算资源,不会再被其他计算任务抢占,并通过减少网络延迟的方式提高计算任务的计算性能. 实验表明,在承担了多个计算任务并行的计算平台上,按照上述调度方案,合理的分配了计算资源,而且被LightScheduler调度的计算任务在性能方面提高了约10%.
其他文献
眼动交互因其易于使用、安全高效、快速卫生等优势越来越为人熟知,但是因其存在输入效率低、易出错以及易疲劳等问题,长期以来未得到广泛应用.本文认为通过眼动与其它交互方
大力开发利用天然气资源,以气代煤、代油可为改善我国能源结构,降低煤、油比例,控制环境污染,提高空气质量,发展多种形式的能源供应技术和供应模式已成为能源发展热点。利用天然气
环境监测是无线传感器网络的典型应用,事件(森林火灾、空气污染等)边界检测是其中的重要内容.本文首先建立了无线传感器网络数据的时空模型,给出了一种基于线性神经网络的异
视频编码率失真优化技术旨在寻求压缩码率和失真之间的均衡,在基于混合编码框架的视频编码算法中占有重要地位.而用于衡量压缩视频质量的视觉失真度量模型的精度,从根本上影
CTA影像单纯根据灰度信息无法良好地分离血管组织和骨骼组织.本文结合CTA影像的灰度特点,提出基于改进的三维区域生长算法的骨骼组织外轮廓提取和基于改进的Snake模型的骨骼
冶金起重机作为冶金行业安全生产必不可少的关键和重要设备,其工作的可靠性、安全性、先进性一直受到人们的高度重视。由于冶金起重机常吊运液态金属,并在高温、高粉尘的环境中
功耗攻击是密码芯片一种新的密钥破解方法,它对密码芯片的安全造成了较大威胁.对密码芯片运行时中间变量的功耗信息泄漏,从系统层次提出了五级功耗信息泄漏模型,在此基础上,
随着Android智能平台的普及,其安全问题尤其是应用安全日益受到人们关注.目前还没有能够在非root权限下对应用权限进行有效管理的方法.本文基于安全策略的思想,提出了一种And
  Recently,fingerprint recognition technique has been used to improve the security of online transaction by smart phone.The size of fingerprint is a key prope
会议
  The cryptographic algorithm MIBS was proposed in CANS 2009.It is a lightweight cryptographic algorithm which is currently suitable for the implementation su