基于网络爬虫和Lucene索引的互联网舆情监测系统设计与实现

被引量 : 0次 | 上传用户:yuzao81927
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
随着计算机技术的不断发展,使用IT技术实现虚拟网络舆情监控越来越受到政府、企业的重视。网络突发事件应急管理是公共安全保障的核心问题,应急管理与网络舆情有着密切的关系,近十多年来,随着信息化的普及,信息内容的爆炸式增长,使得从海量的网络数据发现和处理突发事件信息越来越重要和困难。而应急处理的时效性要求很高,往往要求采取即时措施,传统的采集和分析方式已很难满足这种实时性的需求,因此建立一个互联网舆情监控系统是很有必要的,该系统不仅要能发现事件,还要能够“发现早”,“发现全”。根据权威机构调查,到2012年我国网民数量已经突破5亿关口,国内互联网普及率达到38.3%,其中,移动上网用户达到3.5亿。互联网活动参与者数量增长明显。如今,互联网被称为继电视、广播、纸媒之后的“第四媒体”。随着源源不断的网民参与,互联网取而代之,成为了社会舆论的晴雨表。主要体现在新闻网站、知名论坛、贴吧、博客等平台上,这类媒体也被统称为虚拟社会。由于网络的监管不严格,甚至漏洞百出,网民参与其中基本没有门槛,活动成本基本为零,但其影响却较现实更广泛、渗透更深,造成的社会影响不容忽视。如果任由其发展、不加以引导,那么,大量的负面互联网舆情信息充斥到虚拟社会中,无疑会给社会的长治久安造成不良影响,埋下社会隐患。对于政府机构,加强虚拟社会舆情监管、应对,积极化解危机,对维护社会稳定,实现我国的现代化建设,经济建设不断向前有着很重要的现实意义。互联网是一个宝库,尤其是在互联网大数据时代,借助IT技术,实现对虚拟网络舆情的及时、全面的监控已经迫在眉睫。本文将主要介绍互联网舆情监控系统的设计与实现,以及网络爬虫(Web Crawler)和Lucene索引的优点和在互联网舆情监测系统中的应用。本文设计的互联网舆情监控系统主要分为信息采集模块、信息检索模块、数据分析模块和数据展示模块。信息采集模块的核心是网络爬虫,采集范围覆盖整个互联网,包括新闻媒体、论坛、博客、微博客及视频类网站。信息检索模块的核心功能是实现大数据的快速、精确的检索,这里将用到支持Lucene索引的Mongo数据库,它将检索速度提高到5秒以内。还有数据分析模块和数据展示模块,分别用来对文本的语义进行分析和最终数据的展示。网络爬虫,又被称为蜘蛛Spider,或是网络机器人、BOT等,这些都无关紧要,最重要的是:由于爬虫的存在,才使得搜索引擎有了丰富的资源。使用搜索引擎,使我们检索信息的能力获得了空前的提高,成本有效地降低,可以说,搜索引擎是现代的计算机技术、因特网技术与传统的索引理论相结合的成功典范。随着网络的普及,其影响力不断扩大,信息急速增长,网络毋庸置疑,已经成为了当今信息最大的载体。搜索引擎帮助我们实现了从海量的互联网获取信息提过了有效的途径。但是,网络世界是复杂的,多元化的,而用户对数据的获取是有方向性的,有目的性的,如Google、百度等面向整个虚拟社会的通用型的搜索引擎越来越凸显出其局限性,搜索引擎如何提供用户基于主题的快速、准确和深入的查询,是摆在我们面前的一个难题。网络爬虫作为搜索引擎的核心部件,就自然成为了我们研究攻克的主要方向,无论多么强大的搜素引擎,在后面,都有一个高效的网络爬虫为它服务。本文还要介绍另外一个关键技术,Lucene索引,一个高效的数据检索工具,在我要提到的舆情监控系统中,将起到不可或缺的作用。
其他文献
2011年,面对复杂多变的国内外经济形势,我国木材与木制品行业积极转变发展方式,及时调整应对措施,行业发展总体良好。总体看,木材与木制品进出口贸易呈继续增长,市场供需基本
英语介词的数量不多,但其构成的介词短语在英语中的出现频率很高,功能多样且位置灵活,易引起句子歧义。英语介词短语句法功能识别是浅层句法分析的前提,对提高翻译质量具有重
<正>忠诚是共产党员的底色,也是对党员干部的根本政治要求。贯彻党的十八届六中全会"党的各级组织和全体党员必须对党忠诚老实、光明磊落,说老实话、办老实事、做老实人"的政
中间喷射特征的双级压缩技术,可有效地改善蒸气压缩装置的低温适应性。然而,当此技术与空气源热泵结合时,为满足一系列低温工况,系统中两台压缩机容量配比及耦合关系将发生变
我国是传统的农业大国,农产品总产量一直居于世界前列。农产品加工业是农业的发展和延伸,可以创造巨大的经济和社会价值。自改革开放以来,我国农产品加工业一直发展保持着快
<正>近年来,福建省乡村旅游快速发展,形成了现代农业园区、休闲农业、农家乐、森林人家、水乡渔村、休闲度假以及科普教育、农耕文化、民俗风情体验等各种类型产品多元发展的
多年来,我国在政府会计领域实行的是以收付实现制为核算基础的预算会计标准体系。随着经济社会发展,该体系难以适应新形势新情况的需要。近年来,政府对权责发生制的关注度越
由于钢铁企业运营成本增加,利润空间不断缩小;国内产能过剩,钢铁价格持续走低;产品成本管理粗放,难以实现成本的有效分析等原因,钢铁企业目前面临着成本管理的严峻考验。如何有
安装工程投资在油田地面工程建设中比重较高,是油田投资控制的重点。然而辽河油田在安装工程的造价管理中存在着计价模式落后、造价信息静态管理、不重视前期决策等问题,造成