基于拆分模型的高性能哈希机制研究与实现

来源 :湖南大学 | 被引量 : 0次 | 上传用户:amwygah021121
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
IP地址查找(简称IP查找)是TCP/IP网络中路由器、交换机等设备转发数据包过程中的一项核心技术。随着互联网的日益普及,网络规模持续增大,转发信息表需维护的表项也越来越多,这就加剧了IP查找方案的存储压力。大多数存储压缩方案都会牺牲一点查找性能或更新效率为代价,而拆分模型则在压缩存储的同时还能实现非常好的综合性能。但其片外存储开销大,且增长快,制约了其在实际系统中的部署应用。鉴于此,本文重点研究基于拆分模型的哈希机制,旨在保障片上存储效率和综合性能优势的前提下大幅提升片外存储效率,跨越拆分模型从理论到实践的最后一道鸿沟。首先,本文对拆分模型进行了深入研究和分析,针对拆分模型片下查找的键值取值范围固定且可预知而哈希条目易于分组的特点,提出了一种基于键值映射的分组哈希(Key-Mapping based Group Hashing,KMGH)机制。首先对哈希条目进行分组,然后在片上存储中维护一个固定大小的键值映射数组,将待检索的键值映射到一个更小的值域,以减小构建哈希表的开销。同时,为每一个哈希表维护一个高效的空位列表以提升哈希表的存储利用率。这样,在保持一次查找一次片外访存的前提下,大幅减少了片外存储开销。实验结果表明,拆分模型原有的实现相比,KMGH仅消耗额外的256K片上存储资源就能使片外存储效率提升超70%。而在整体上与现有的优秀算法相比,拆分模型配合KMGH在片上和片外的存储效率提升分别超过了80%和90%。此外,本文还进一步研究了KMGH机制在叶推、多步长前缀树场景下的应用。提出了高效的哈希组融合算法(Hash Group Fusion Algorithm,HGFA),以及三层步长择优算法(Three-level Optimal Strides Algorithm,TOSA),以综合存储评价指标为目标函数采用动态规划确定最优步长。并成功将拆分模型配合KMGH应用到了现有的优秀算法中。实验表明,在不改变算法本质和优势的前提下,基于拆分和KMGH的实现在片上和片外存储效率上都能获得显著的提升。
其他文献
大数据时代,数据已成为非常重要的生产因素,数据挖掘已经应用于各行各业。其中,对肠道微生物领域的挖掘就是当前研究的热点。由于肠道微生物菌群对人体疾病的产生与治疗具有
光学和近红外太阳爆发监测望远镜(ONSET)是我国太阳物理研究中的一个重要设备,该望远镜每天可以获得大量的太阳图像数据,给整个数据处理与存储带来了巨大的压力。开展观测图
对太阳进行观测并获得相应的观测图像是研究太阳物理的常见手段,但由于大气湍流的影响,地基天文望远镜所获得的图像会存在随机畸变,进而影响到图像的分辨率和清晰度。为了解
双边多议题协商是Agent自动化协商研究的重要内容,特别是复杂环境下的双边多议题协商的研究,一直是自动化协商研究热点。多议题协商引入的大规模结局空间,协商对手未知性和协
本文研究了一种维度压缩改进后的神经网络在非线性系统上的轨迹追踪运用。由于许多工业广泛运用的非线性系统,比如感应电机,都具有复杂的不确定性和内外部干扰项,其系统的精
现今对板式橡胶支座的研究大多偏向静力性能方向,但对板式橡胶支座动力性能方面研究不足。鉴于板式橡胶支座通常服役于动力环境中,如:高层建筑中的抗震橡胶支座、汽车和高铁桥梁中的橡胶支座等,因此对其在动力性能方面的研究具有十分重要意义。为了研究板式橡胶支座在冲击作用下的动力性能,设计并进行了一系列试验研究:对冲击试验用的板式橡胶支座的组成材料——橡胶和板式橡胶支座本身进行了材性试验:根据各种橡胶材性试验的
《天地新闻》日报创刊于1949年3月。此时国民党政府由南京迁往广州,中国社会处于动荡时期,经济上整个国家恶性通货膨胀,经济危机不断,政治上国内内战不断,政治冲突不断升级,
在学术研究和工程实践当中存在许多多目标优化问题,不同于单目标优化问题,多目标优化问题由于各个目标之间相互制约,很难让所有的优化目标同时达到最优。因此,只能对各个目标
目前,在3D No C容错路由算法中,有一类算法就是把网络中故障结点包围在若干个不相交的长方体故障区域内。在路由数据包时,若是一个数据包碰到了这样的长方体故障区域,这类算
人类基因组计划的启动和顺利实施,使得对生命与科学的研究迈进了后基因组时代,各种基因组学、蛋白质以及疾病等相关的生物大数据呈现爆炸性增长的趋势,研究这些海量生物数据