M2ram:云平台大页内存压缩系统

来源 :浙江大学 | 被引量 : 0次 | 上传用户:wind503
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
在当今的云计算环境下,为了提高物理资源的使用效率,单台物理服务器上整合了几十甚至上百个虚拟机来承载云业务。为了保证云业务的服务质量,物理服务器采用无交换分区的2M大内存页机制管理物理内存。然而Linux现有的大页管理机制Hugetlbfs由于不支持内存压缩回收以及大页空间拓展性差,导致其不能很好地满足业务需求。同时,在实际的部署环境中,物理服务器内存中存在较多的重复数据,而现有的内存去重技术(KSM、UKSM)并不能很好地支持大页机制,致使宝贵的物理内存资源没有被充分的利用。为了提高云计算环境下物理服务器系统的性能和物理内存的使用效率(复用率),同时尽可能小地修改系统内核。本文将基于大页内存管理分配框架PHPA(Pristine Huge Page Allocator),设计和实现了一套大页内存压缩管理系统M2ram(2M ram)。该系统将不经常使用的大页压缩存放在内存中,以提高物理内存的复用率。为了实现本系统,本文完成了下列工作:(1)采用全新大页内存管理框架PHPA。该框架和Linux内核耦合性低,还可以大幅降低大页元数据的内存开销,进一步节省可用物理内存。(2)对业务场景进行分析,并根据其设计一套全新的从冷热页追踪、大页回收、内存压缩管理到缺页异常处理完整流程的大页压缩系统M2ram。利用多流压缩技术,提高了在NUMA架构下M2ram的并发能力。(3)提出了把2M大页数据压缩后存放到4k页空间的全新压缩数据存储管理机制。其空间浪费率低达1/512,不会产生碎片化问题。(4)相比于Hugetlbfs的串行缺页异常处理和复杂的SwapCache机制,本文实现了并行化大页缺页异常处理和去SwapCache机制,保证了内核的高响应。经仿真实验和标准化测试,此压缩系统使得内存复用率可达到2倍以上。此系统的高内存复用率、高响应以及高鲁棒性使得其有良好的工业应用前景。
其他文献
随着企业大中型规模应用的激增、网络规模的扩大,各种应用系统的可靠性不再局限于程序本身的稳定性,而更多的依赖于架构这些应用的Web服务器、应用服务器、数据库以及操作系
粗糙集理论、模糊集理论是信息系统中处理知识不确定和不完全的两种重要方法,是数据挖掘的重要工具。经典粗糙集理论是在1982年由波兰科学家Pawlak教授提出的,通过论域上对象
点集覆盖问题是计算几何领域的一类基本问题,其中包括了直线覆盖、路径覆盖、回路覆盖等问题。此类问题的研究不仅具有重大的理论意义,而且在电路设计、重型器械移动、路径规
入侵检测是一种主动的安全防护技术,它能检测出正常和异常网络行为,分辨异常行为的非法攻击类型,是防火墙等被动防御技术的重要补充,是网络安全保障的重要手段。本文分析了多
视觉检测技术发展至今,视觉检测技术的理论和实现环境仍处在不断发展和完善之中。目前视觉检测的商业应用系统大多数是基于PC机的板卡式系统。这种实现借助高速图像采集卡采
目前,社会网络领域存在着大量的与个体或集体息息相关的信息,如:客户购物网络、朋友网络、电话网络和学术合作网络,以及各种群体网络都含有不少的隐私信息。随着计算机技术、
无线传感器网络节点生成大量冗余数据,这些数据在节点间的转发会引发一系列问题,如节点上有限能量的大量浪费、网络传输延迟、网络中海量传感数据存储处理困难等。这些问题都
随着Internet、信息检索等新技术的不断出现及快速发展,各种应用所积累的数据量急剧增长。这些数据背后通常隐藏了反映事物变化规律的信息或知识。为了能够有效利用这些数据,需
本文对神经网络集成算法的样本取样过程进行了深入研究,并通过对权值的更新过程进行了优化,提出了三种神经网络集成算法的变种算法。具体工作如下:1、针对神经网络集成算法AdaBo
在未来可能的深度核裁军核查中,需通过核查认证来确认履约情况。铀部件是核武器重要的组成部件之一,也就成了核查的重要对象之一。本文围绕主动法诱发铀部件特征信号的处理分析