基于MapReduce全文检索系统设计与实现

被引量 : 0次 | 上传用户:tonfy1028
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
在上世纪90年代,以因特网为代表的计算机网络还是少量研究人员使用的高深技术,但是很快就和计算机硬件一起以极其惊人的速度进入到普通民众的生活中。同时,计算机上产生的数据越来越多。如何在大量信息中找到有用信息成为研究者们关注的焦点。这过程中一批通用搜索引擎诞生,例如Google、Yahoo、百度等。搜索引擎的发展越来越呈现出被少数几个公司掌控的局面,而通用搜索引擎在机构内部常常无法满足用户的搜索需求。本文采用开源的Apache分布式框架Hadoop与全文检索引擎框架Lucene来完成在相对规模较大、产生文件量较多的局域网范围内实现分布式搜索引擎。设计方案主要分为三个部分:第一部分针对用户提交的源文件建立索引,存储到HDFS中,提出了分类策略,针对不同文件格式分别建立索引,独立存储索引文件,解决了以往单机环境下索引数据量过大而成为服务器处理瓶颈的问题,同时还保存了源文件的分类特征;第二部分根据用户提交的检索关键词,在第一部分建立的分类索引文件中检索出结果后返回给用户,本文提出采用基于远程过程调用进行数据统计的方式解决了分布式环境下衡量检索关键词与检索结果相关性计算中部分计算因子在获取上存在障碍的问题;第三部分利用用户检索的历史结果,提供用户在历史检索结果中快速检索。本文针对响应速度的要求,借鉴操作系统中缓存的思想,充分利用用户的历史检索记录挖掘用户检索行为规律,提出基于历史检索记录的快速检索方案,该方案针对被常检索到的文件,建立单独的索引进行存储,在用户选择快速检索时将优先在该基于用户历史检索记录挖掘出的被频繁检索的文档单独建立的索引文件中进行检索。该系统采用快速检索与全局检索相结合的方式,在分布式环境下实现了搜索引擎的基本功能,并且已经投入实际应用。
其他文献
无线分布式智能照明系统实现了短距离分布式的多点照明开关和调光控制功能,系统包括无线发送和接收调光两个模块,发送模块由编码芯片PT2262和以SAW为核心器件的发射电路构成,
肾脏内皮细胞损伤是糖尿病肾病(Diabetic Nephropathy,DN)早期特征性改变之一,中医药治疗DN良好疗效已得到证实,研究多集中在肾小球系膜细胞及上皮细胞,近年针对肾脏内皮细胞
近年来,随着社会经济的不断发展,一些公共设施亟需完善和配套,比如高效处理生活垃圾的焚烧发电项目,比如现代生产和生活中必不可缺的PX项目,这些设施选址不可避免地会引发选
融资难是制约中小企业发展的主要瓶颈。造成此问题的原因是多方面的,但中小企业融资结构的影响却是不容忽视的。本文首先综述了融资结构理论,然后分析了我国中小企业融资结构
目的探讨卡托普利对胰岛素抵抗-高血压大鼠胰岛素抵抗、血压和自由基的作用。方法:选出正常对照组,以普通饲料喂养;其余大鼠喂饲富含高盐(8%)、高脂肪(25%)和高蔗糖(10%)饲料,连续8
全球经济一体化的趋势,逐渐显现出关系营销的巨大作用。根据我国加入WTO的协定,要逐步放开国内各类市场,做好关系营销,对我国企业的长远发展具有重大的现实意义。
目前肿瘤干细胞研究的进展为进一步研究肿瘤细胞的生物学特性开辟了新的方向,它突破了以往把肿瘤视为均一的整体的研究思路。了解肿瘤干细胞的生物学特性,有助于阐明肿瘤发生
全球云计算进入商用发展快车道,为运营商提供了向互联网转型的难得机遇,文章分析了运营商发展云计算面临的挑战,提出运营商在云计算时代的应变之道。