基于Hadoop平台的实体识别系统的研究与实现

被引量 : 0次 | 上传用户:riugrur
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
近些年随着科技的发展,人们从生产、生活中积累并抽象产生出更多的数据,使得传统的信息系统不再适合处理、计算现有的数据,并且通过研究表明计算机的物理性能已经基本达到极限,摩尔定律正在渐渐失效。针对这类问题,研究人员提出了各种各样的解决方法。例如将现有的计算机扩展为一机多核等,通过改造cpu来达到提高计算机性能的目的,并且在实际应用取得成功,但是仅仅这些还满足不了对海量数据的计算。2007年,Google首先提出了商业云计算概念,进一步带动计算机领域对云计算的研究。现有的云计算系统主要是通过将一组廉价的计算机组织起来,相互连接协同操作,其所能达到的性能堪比价格昂贵的超级服务器。本文以云计算中的实体识别技术为背景,在Hadoop平台中设计并实现了在大数据集上使用条件函数依赖约束进行数据过滤的实体识别系统。本文主要研究内容及贡献如下:(1)首先研究了云计算的发展,并针对云计算环境中对数据质量研究工作较少的现状提出了在云计算环境中基于过滤条件函数依赖约束的实体识别问题。(2)针对基于MapReduce框架的Hadoop平台,以及其分布式文件存储系统进行了分析。通过研究在Hadoop平台下执行计算任务的工作流程以及数据中条件函数依赖约束的特点,利用共享输入数据和共享Map中间结果两种方法,提出了解决在Hadoop平台下基于条件函数依赖的实体识别任务的优化合并。通过使用任务合并技术可以高效的对在大数据集上的条件函数依赖约束进行检查,而且可以优化合并输入任务,达到缩小输入任务个数,减少对输入数据的读取代价,并且控制了任务执行过程中产成的中间结果的大小等目的。(3)在虚拟机环境中搭建Hadoop平台,对真实的基因和蛋白质数据进行了条件函数依赖约束的检查。验证了本文算法的有效性和本文所设计的系统的有效性。
其他文献
大体上说,2019全球iPhone摄影大赛属于沙龙级且大众化的一个摄影赛事。而手机摄影作为新生事物,随意性及鲜明的情感投入又是其两大重要特征。这样,非常好看而且好玩,让人非常
期刊
探讨慢性肾脏病患者口服抗凝药物的治疗与管理策略,及在抗凝个体化与精准治疗中的药学服务重点。临床药师基于最新的临床研究、荟萃分析及治疗指南,通过综合评估出血风险及栓
介绍了一种新型轴向磁场永磁同步电动机的结构形式及特点,提出了该电机的设计方法,并给出了该电机输出功率与其主要尺寸的关系式。
"跨文化形象学"的研究对象是不同类型文本共同构成的作为一般社会想象的异域形象,不仅限于文学文本。作为一种方法或批评策略,它的理论资源来自现代社会理论与后现代文化批判
“幸福就是快乐的生活”是亚里士多德德性幸福论的一则核心命题,在其伦理学代表作《尼各马科伦理学》中,他对幸福和快乐这两个重要的伦理范畴进行了充分而深刻的论述,并在理
目的探讨尿道狭窄或闭锁的腔内手术治疗疗效。方法28例患者采用尿道冷刀内切开结合瘢痕电切术治疗,其中对尿道闭锁患者,术中配合应用软性膀胱尿道镜。观察其术中情况、术后并
<正>宜昌市地处湖北省西南部,地形以山地、丘陵为主,辖区道路形态属于典型的山区道路,山高路险、弯陡坡急,临水临崖道路较多。随着经济社会的不断发展,2013年至2017年,宜昌市
随着无人机在军事、科技等领域发挥着越来越重要的作用,对无人机技术的发展和创新成为目前各国研究人员关注的焦点。如何给未来无人机内部系统提供一个高可用的控制系统已成
目的通过对大鼠肾小管上皮细胞(RTEC)转染外源性骨形态发生蛋白7(BMP7)基因,探讨BMP7对RTEC增殖活性和迁移能力的影响。方法分别在体外用腺病毒介导载体HBAD-GFP和HBADBMP7转染入
目的探讨输尿管镜下气压弹道碎石术失败的原因和处理方法。方法回顾性分析输尿管镜气压弹道碎石术180例,使用德国Wolf7.9F输尿管镜配合丹麦气压弹道碎石机。其中手术失败11例