一种基于N-Gram的检测相似重复记录的高效方法

来源 :第十六届全国数据库学术会议 | 被引量 : 0次 | 上传用户:jhiphop
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
如何消除数据库中的重复信息已成为数据质量研究中的一个热门话题。该文提出了一种基于N-Gram的检测相似重复记录的方法,主要工作有:(1)给出了一种高效的基于N-Gram的聚类算法,该算法能适应常见的拼写错误如插入、删除、替换、效换等,复杂度为0(N);(2)介绍了一种高效的应用无关的Pairwise比较算法,复杂度为0(K〈’2〉);(3)采用了一种改进的优先队列算法来准确地聚类相似重复记录。
其他文献
花鸟画是我国绘画重要组成部分,宋代是工笔花鸟画的兴盛时期,不论是“形”还是“神”皆有出色的表现.文章以宋经典小品花鸟画《果熟来禽图》为例,指出其不仅展示了经过反复推
客观准确评价团体的学术影响力是推动学术创新和提高学术成果质量的基本前提,也是大力推进“双一流”建设的重要保障.本文以福建师范大学地理科学学院为研究对象,统计了2014
利用迭代过程在复平面上生成对称分形艺术图形的Newton-Raphson方法及其改进取得了很好的效果,但仍然存在对生成图形形状不能很好控制和预先设计等缺点.本文提出一个新的改进
根据国家统计局统计数据计算,2007年~2011年,我国食品价格上涨对CPI贡献度有42个月超过70%,这表明食品价格已成为近几年来CPI屡创新高的主要推手。虽然当前通胀形势有所缓和,
张一弓同志的《挂扁》(载《人民文学》一九八四年第十期)描述了一次盛大的夸富游行给人们所带来的灾难性后果,形象地揭示了这样一个社会性矛盾;在改革的浪潮中,由于有些领导
本文对NH(,3)活化脱硫作用、脉 冲放电等离子体烟气脱硫过程中NH(,3)活化脱硫作用、HN(,3)和二氧化硫(SO(,2))化学剂量比对NH(,3)活化脱硫作用影响及NH(,3)活化脱硫作用机理进行了研究和探讨。实