大数据量下异构数据库的数据同步系统的设计与实现

来源 :华南理工大学 | 被引量 : 0次 | 上传用户:hntkpop
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
信息时代的到来,让我们拥有了更便利的生活,同时,也带来了海量的数据。作为管理数据的有效手段,数据库在帮我们存放数据的同时,也能帮我们做一定的分析。数据量的快速增长,对数据的不同使用方式,给数据库带来了不少新的挑战。经过不断发展,各种数据库层出不穷,有着各自的关注点和优势。在管理和分析数据时,我们不再局限于使用单一的数据库产品,而是会根据需求去选择最合适的方案。因此,在实际生产中,我们往往同时使用多种数据库。数据在异构数据库间流动,需要用到数据同步技术。数据同步技术让数据可以从数据库抽取出来,经过转换后加载到不同的数据库中。在保证数据一致性的同时,数据同步技术也需保证数据的时效性,以及一份数据的复用性。本文通过查阅文献,分析一些常用数据库产品的优势和特征,分析目前存在的数据同步产品和项目。在此基础上,本文探讨实现异构数据库之间数据同步,数据复用的一种方案。该方案基于数据库日志文件提取增量数据,然后把增量数据分发到缓存队列中,最后在一个或多个目标端数据库实现增量数据的复现,完成数据同步,数据复用。在这个流程中,本文提出提高同步效率的几种方法:数据均衡分发算法、操作合并优化方案、窗口缓存优化方案。数据均衡分发算法以表的数据量为依据,对各个表的增量数据进行分发,使分发到队列各个分区的增量数据更加均衡,提高队列的吞吐量。当业务需求变更时,该算法能尽可能地减少对现有表分发规则的影响。操作合并优化方案通过合并主键值一样的操作,减少实际操作数,提高数据同步效率。窗口缓存优化方案根据目标端繁忙程度动态调整同步速度,降低目标端崩溃的可能性。另外,本文还基于SQL语句的语法树进行分析,提出DDL自动处理的方法,使数据同步更智能化。最后,本文通过测试实验来验证方案的可行性,得到数据同步相关的性能指标。
其他文献
在当前课程改革和高考改革的背景之下,在“以人为本”的教育理念推动之下,叩问教育初心,回归人本位成为教育教学的航向。历史作为一门综合性和趣味性都很强的课程,给我们呈现
现代化的政府是服务型的政府,它要求行政人员加速转变行政办公理念,从管理者转变为服务者,对于政府绩效评估内容来说,也从考核行政办公效率向考核公共服务情况转变。作为黑龙
我国工业的飞速发展,消耗了巨额环境资源,工业废水、废气、固废等排放使得环境污染问题与日俱增。传统的发现污染问题的方式,例如群众举报、物理仪器监测等已经无法处理日益
聚偏氟乙烯(PVDF)是一种比较受欢迎的膜材料,在微滤和超滤水处理中具有普遍的应用,并且由于PVDF膜的无毒性和低的表面能,使它成为一种很有潜力的生物医用材料。然而,由于PVDF膜疏水性的本质,使得它在用于水处理时容易造成渗透通量、选择性能等的下降,且在作为生物材料时容易形成凝结、引起并发症等。因此,对PVDF膜材料进行亲水化改性是很有必要的。本论文主要通过PDA微球对PVDF膜材料进行亲水化改性
金属有机骨架(MOFs)是一种由金属中心(金属离子或金属簇)和有机配体通过配位键作用构筑而成的多孔材料,也称多孔配位聚合物(PCPs)。MOFs具有结构多样化、孔径尺寸可调、比表面积较
随着勘探采集领域的软件设计和应用不断发展,三维观测系统的性能优化和功能完善已成为当前研究的重点,炮检点作为三维观测系统中需要高效渲染的重要对象之一,在地表范围内布
M所成立于1958年8月,是一家事业单位性质的军工科研所,在新时代的召唤下,积极响应国家号召,主动投身军民融合发展,聚焦军工技术转移和科技成果转化。“低空动态监测系统”研
语文教材是教师进行语文教学的重要凭借,是学生进行学习的载体,是联系教与学的桥梁。语文教材的质量是影响教育教学的关键因素之一。选文是语文教材的主体,选文的质量直接关
双目立体视觉是计算机视觉的一个重要分支,具有广泛的实际应用前景,如3D立体显示、自动驾驶、机器人导航和智能化工厂等。而高效的实时立体匹配算法是双目立体视觉应用的必要
克拉玛依交通警察支队现有十多个交管平台,各平台间数据不共享,功能冗余,缺乏数据可视化,给城市交通管理工作带来了许多不便,且以往的警力布防和事故防控通常是根据交警积攒