基于WebHarvest的中文财经新闻搜索引擎的设计与实现

来源 :华中科技大学 | 被引量 : 0次 | 上传用户:gululukuaican
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
随着互联网的迅速发展,其所承载的信息量呈爆炸式增长,因此,如何有效地利用这些丰富的信息资源逐渐成为研究人员关注的课题。搜索引擎在当今互联网领域起着十分重要的作用,它是获取知识信息的主要工具。同时,随着用户需求的进一步扩大,获取更加准确、更加深层的专业信息,成为搜索引擎的一项新要求。针对目前新的需求变化,本文提出了一个基于webharvet的中文新闻搜索引擎。首先详细介绍了搜索引擎的系统结构,然后从网络爬虫、索引引擎、Web服务器以及其中涉及到的一些算法进行详细的说明。并在此基础上,开发了一个基于webharvet的中文新闻搜索引擎。简而言之,新闻搜索引擎是按照初始的URL列表到指定的Web页面中进行页面解析,并把解析到的新闻创建建索引后存入到数据库.用户在客户端访问web服务器上的索引并取出数据库中相应的新闻信息。除了常见的搜索引擎相关组件之外,系统设计了一个并发网络爬虫,在考虑到性能需求的同时兼顾了新闻数据抓取的精确度,并在此基础上添加了过滤,文本去重,持久化等一系列组件。在构建爬虫相关组件中采用了许多成熟的设计模式来进行各个模块的整合和功能优化。而索引部分采用了Lunece构建索引,通过IKanalyzer进行中文分词和词法分析,并针对不断更新的数据进行索引的合并和优化。另外,结合用户需求,添加了用户评分和权限等相关操作,主要目的是为开发一个面向用户的体验良好的中文新闻搜索引擎。在介绍搜索引擎的章节中,详细地描述了相关技术点,同时列出了构建该系统的相关代码和逻辑图表。
其他文献
本文介绍了防冰雹网的不同搭建方式,采用“方科”牌防冰雹网,在陕西渭北地区进行不同搭建方式的应用实践,研究了不同搭建方式对果园光照强度和温湿度、果树生长状况等的影响
草莓营养价值丰富,是世界上广泛栽培的重要经济作物,但由病毒侵染引起的草莓病害给生产带来了巨大的经济损失,严重制约了草莓产业的健康发展。本文对目前已报道的22种主要草
奇虎360同酷派终于修成正果,5月6日,奇虎360发布了新手机品牌—奇酷,并引入众筹的概念和品牌理念“好奇心改变世界”。在竞争日趋激烈的智能手机市场,作为后来者的奇酷,是否真能改变世界?  酷派有技术,奇虎360会营销。作为合资公司的CEO,周鸿祎在对产品的把控和营销上拥有绝对的—这是一件好事,至少从自身炒作这一点上来看,不会比小米差多少。“股权众筹”这一概念而言,周鸿祎就已经打出了一手好牌。奇酷
无公害蔬菜高产栽培中既要把各种污染及有害物质的含量控制在国家规定的范围内,又要达到高产。为了做到科学施肥,达到蔬菜高产、高品质的双赢目的,本文阐述了无公害蔬菜种植
目的对比外固定架、外固定架+克氏针治疗C型桡骨远端骨折临床疗效。方法 2010年1月至2015年12月笔者科室共收治的250例桡骨远端骨折患者中,52例患者符合标准纳入研究分析,根