面向教育舆情的主题网络爬虫设计与实现

被引量 : 4次 | 上传用户:sophieyeah
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
伴随互联网的快速发展,互联网逐渐成为大众获取各类型信息的主要渠道。同时当今互联网信息分类也在不断进行细化,网络信息的主题化也日益明显。针对目前通用搜索引擎搜所搜索到的结果过多,与主题相关性不强等情况,本文提出设计一个面向教育舆情的的主题网络爬虫,也是主题舆情监测系统的重要组成部分。当前主题网络爬虫的研究已成为热点,但针对教育舆情的主题网络爬虫研究还较少,因此针对教育舆情数据采集的主题网络爬虫研究是具有一定意义的。本文从当前我国互联网教育舆情监测为背景出发,通过分析当前搜索引擎相关知识、主题网络爬虫系统的主要工作模式、搜索算法、主题信息识别等相关技术。设计了一个面向教育舆情主题网络爬虫,通过该主题网络爬虫可以对互联网教育舆情信息进行高效的采集与识别。搜索算法是主题网络爬虫关键技术之一,因此本文主要对主题网络爬虫的搜索算法进行分析与改进,通过对传统主题网络爬虫搜索算法的分析,提出了一种基于云计算平台下的主题价值判断搜索算法,该算法主要包括了基于云平台的搜索任务调度算法、基于云节点下网站搜索算法、基于向量空间模型的主题识别算法和基于布隆过滤器的去重算法等。并利用了云平台的高效性和稳定性等特点,将主题网络爬虫的搜索算法与云平台相结合,解决了传统主题网络爬虫在单机模式下采集数据效率低下的问题。通过对该主题网络爬虫测试和相关实验数据分析表明,改进后的搜索算法与传统的主题网络爬虫搜索算法在采集网页效率上和搜索、发现网页比例上有着明显的提高。基于以上的研究,在今后的工作中,主要的研究方向是如何将该主题网络爬虫全面部署到云计算平台当中,解决主题网络爬虫在云平台中运行的其他关键性技术与算法,从而实现一个真正意义上的基于云平台的教育舆情主题网络爬虫。
其他文献
多孔碳是是一类新型的介孔材料,是继介孔氧化硅之后的第二代介孔材料。这类碳材料具有很高的表面积和孔体积、均匀可调的孔径、高的热稳定性、可变的结构组成以及高的化学稳
随着中央"国八条"的出台与影响,餐饮进行重新洗牌,这要求餐饮业的消费结构与业态趋向进行全新的转变与思考,"告别奢华,回归大众"的快餐业如雨后春笋般获得市场的青睐,本文以
高等师范学校音乐专业的古筝教学在不断进行改革,改革既需要对传统教学的宝贵经验和技术进行继承,又需要适应社会发展要求对古筝教学进行创新。继承和创新相互作用,继承是创
高中毕业会考是我国教育制度改革的一项重要举措。在生物会考中,实验被列为考查科目,其目的是为了加强高中阶段的生物实验教学,提高学生的实验操作能力。在辽宁省实行会考的
西方歌剧虽说是一门综合艺术的表现体,但支撑和主导这门艺术的不是别的,而是音乐;西方歌剧虽说是一种以歌为主的艺术形式,但歌唱演员的"声",在整个歌剧音乐中的地位和主从关
基于对数正态分布的无线和电力线信道衰落,考虑发射功率、中继位置和脉冲噪声等因素,该文对室内无线和电力线双媒质协作的放大前传和译码前传中继系统进行建模和性能分析。针
世界各国政府都高度重视食品安全问题,并根据各自国情建立了不同类型的管理体系和制度,积累了许多成功经验。目前,食品安全是广西社会各界普遍关注的问题,文章通过阐述广西食
电影的房间也是上锁的,进入电影的房间必须要先推开电影剧本之门,电影房间里神秘的一切都是由编剧设置好的,若想一窥真实,必须先从编剧手里找到钥匙,才能打开剧本的大门,进入
莫霍利·纳吉的特别之处在于他认为绘画与电影、摄影与雕塑、舞台背景设计、素描以及物影照片都是等值的。尽管他在柏林时期——这只是他人生的一个特定的阶段——从事于各种
目的探讨结合食物血糖生成指数(GI)的食物交换份法对2型糖尿病病人饮食治疗的有效性。方法选择包钢医院社区筛查发现的初发2型糖尿病病人80例,随机分为实验组和对照组,每组各