分布式数据仓库路由中间件的设计与实现

来源 :南京大学 | 被引量 : 0次 | 上传用户:alucardlr
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
星环科技作为一家专业的数据存储服务提供商,一直以来为证券、银行、政府等机构公司提供分布式大数据存储技术的支持,旗下一站式大数据平台(Transwarp Data Hub,以下简称TDH)集软件安装、运维于一身,同时提供了丰富的拓展功能。但是随着客户使用数据的增长以及使用场景的复杂化,单个数据仓库集群已经越来越难以满足客户的使用需求,部分客户为了减少数据迁移的成本,在不同地区都分别建立了大数据存储集群。在这种情况下,由于数据分散在不同的存储集群中,客户的数据查找成为了一个亟待解决的问题。本文基于客户实际使用场景中遇到的问题,详细分析了各类用户的使用需求,同时结合数据仓库当前的发展趋势,设计并实现了基于星环分布式计算平台(Inceptor)的数据仓库路由中间件(Inceptor-Gateway,以下简称Gateway)。Gateway中间件系统在大数据集群中位于客户端与数据仓库计算引擎之间,主要由客户端接收层、路由层以及发送层构成。用户通过客户端连接Gateway后便可同时与多个数据仓库建立连接,改变以往一次只能连接一个数据仓库的局面。用户通过提前配置的转发规则,便可以通过Gateway实现SQL请求智能转发、多节点负载均衡等功能。在多数据仓库的情景下做到数据结构对客户端透明,用户在查找数据时只需要专注于SQL语言的编写而不用关注数据的具体存放位置。同时为了进一步降低用户的使用成本,本文还基于Spring Boot设计了一个与Gateway协作的监控平台(DBAService),通过监控平台用户可以实时掌握系统运行状态以及转发详细,当SQL查询出现问题时可以通过该监控平台对出错节点进行快速定位,及时排查集群问题。目前Gateway已应用于公安、邮政以及多家银行证券机构的分布式存储集群中,在多数据仓库这类场景的集群构建及使用中发挥了重要作用。通过路由中间件Gateway的帮助,能极大地降低多数据仓库场景中用户的使用门槛,同时有利于构建更优的数据仓库结构,增加数据安全性。
其他文献
目的:建立可检测新城疫病毒(Newcastle disease virus,NDV)的液相芯片快速检测技术。方法用DNhStar软件对GENBANK中NDV的NP基因进行序列分析设计NDV特异性探针并标记生物素,
众所周知,汽车被称为“改变世界的机器”和推动国民经济不断向前发展的“发动机”,自改革开放以来,经过几代人的努力,我国的汽车产业呈现出不断向前迈进的态势,现如今汽车产
随着医疗环境的变化以及医疗卫生改革的实施,传统的药物库存管理模式弊端逐渐凸显,如何以最合理的运行方式管理药品使用成为重要的课题。零库存管理模式是将企业仓储方案灵活运
农民工处于城市生活的边缘地带,信息权益相对缺失。文章分析了农民工的信息需求现状,及分析了阻碍农民工利用公共图书馆的因素,提出了服务政策及保障、宣传力度、馆员素质、
随着信息技术的发展和大数据时代的到来,传统的依赖于决策者的经验和直觉来判断、制定决策的方式受到了挑战,急需借助量化的方式为公司的决策者提供客观信息支持从而辅助决策。此外,公司内部使用的传统手工报表的工作方式在数据的协作、共享和维持一致性方面存在交流成本较大的问题。因此,开发一套基于数据仓库的企业决策支持系统,以数据展现的方式为公司人员提供信息支持和决策辅助。本项目基于Hadoop分布式集群和J2E
<正>VITROS350干化学全自动生化分析仪是美国强生公司生产的用于临床急诊和常规检测血生化、部分药物血药浓度的全自动分析仪器,由于检测结果准确、速度快,而被大多数医疗机
会议
目的:观察和分析前路手术治疗胸腰椎爆裂骨折的临床疗效。方法:对43例胸腰椎爆裂骨折患者采用胸膜外腹膜后入路前路减压钛网植骨钢板内固定手术,观察随访患者的治疗效果。结果:患
目的探讨幼儿期使用含氟滴剂(FD)与氟离子透入(FII)对儿童第一恒磨牙脱矿的影响.方法选择成都市使用FD超过3年的儿童45名及其对照组(未使用过FD)40名,厦门市使用FII超过3年的
本文通过研究白山市木通沟铁矿矿床地质特征,提出控矿地质条件,总结成矿规律,建立找矿预测模型,进而提出隐伏矿体的找矿方向。白山市木通沟铁矿产出的大地构造背景为华北大陆
推动新时代党的建设,需要在坚持从严管理监督干部的同时,更加重视对干部的厚爱和激励,切实做到从严管理干部推进一步,干部激励工作就跟进一步。