基于增量贝叶斯算法的主题爬虫

来源 :南京大学 | 被引量 : 0次 | 上传用户:cypbvg
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
传统的网络爬虫是获取互联网数据的基本手段,然而随着万维网信息的爆炸式增长,传统网络爬虫所获取数据中的很大一部分对于用户来说是无用的;因此,如何返回更多有用数据得到了研究者的重视。针对传统网络爬虫的不足,主题爬虫通过预测链接与主题之间的相关度、改变网页的爬取顺序,能够返回更多用户感兴趣的数据;主题相关度的计算和链接优先级的预测是影响主题爬虫性能的主要因素;本文通过改进主题爬虫中的链接优先级计算公式,并引入增量贝叶斯算法,提高预测链接优先级的准确度,从而提高主题爬虫的性能。本文主要工作如下:1.针对新样本的到来导致的样本空间分布发生改变等问题,本文提出增量素贝叶斯算法(简称ILNB)上:在训练贝叶斯模型的过程中,将部分训练数据用于生成初始模型,使用初始模型对剩下的训练数据进行分类预测,根据预测结果改进初始模型。此外,分别对ILNB算法和朴素贝叶斯算法进行实验以及分类结果的展示与对比,实验结果表明了 ILNB算法的有效性;2.为了更加准确地预测链接优先级,本文提出了新的链接优先级计算方法:引入url文本,与锚文本、父网页文本共同预测url的优先级;并对不同参数以及是否使用url文本进行主题爬虫对比实验,实验结果表明引入url文本进行链接优先级的计算有助于提高主题爬虫性能。3.为了更加准确的进行主题相关度判定以及使主题爬虫具有时效性,本文将主题相关度计算建模成分类问题,使用增量贝叶斯分类算法进行url锚文本以及父网页文本与主题相关度的判定。并在网易新闻网站下,进行了普通网络爬虫以及不同主题的主题爬虫实验,使用harvest等评价指标,实验结果表明将增量贝叶斯分类算法用做主题相关度的判定能够提高主题爬虫的性能。
其他文献
伴随着大规模的科技革命,超精密的测量和制造技术对现代高科技产业的发展起到日益重要的作用。高精度定位台和高精度导轨作为许多加工制造以及测量行业中的主要的运动元件,有
作为基础设施与公共服务供给的一种创新方式,PPP模式通过在政府与私营部门之间进行平等合作、优势互补,有效地推动了城市的经济发展。然而由于PPP项目中政府与私营部门双方的
随着化石资源的日益匮乏和人们对能源需求量的增加,人们不断地探寻清洁可再生无污染的新能源,太阳能在众多替代能源中脱颖而出。在众多太阳能电池类型中,钙钛矿太阳能电池(PS
微流控是精确操控极微量体积流体的技术,广泛应用于化学合成、生物分析、环境监测等领域。本论文以同轴环管型微通道内液—液体系为研究对象,针对流体分散机理进行了系统的研
儿茶素是一种天然植物抗氧化剂,它具有广泛的生物、药理和抗氧化活性。儿茶素可以作为绿色制备金属和氧化物纳米复合材料的还原剂和稳定剂,具有既安全又环保的优势。本论文中
作为金属矿山地下采场运输矿石的主要通道,溜井的作用极其重要,被喻为井下运输矿石的咽喉。因其具有通过能力大、运输速度快、运输成本低等优点,所以在国内外矿山获得广泛应
近年来,硅基材料因其超高的理论比容量(3752 m Ah g-1),来源广泛及环境友好而受到科研工作者的广泛关注,被认为是最有发展前景的新一代锂离子电池负极材料。然而,硅在脱嵌锂
随着我国老龄化进程的加快,老年人人口数量和比重逐年增加,老年人的健康问题成为研究热点,其中跌倒是造成老年人受伤甚至死亡的常见因素之一。跌倒的发生与身体平衡控制能力
鲁奇炉、低温煤干馏、煤分级提质等煤处理过程会产生大量高浓度含酚废水,包括苯酚、甲酚、二元酚、二甲基苯酚等,而其中二甲基苯酚的含量相对较少,但总量仍达几百ppm。使用常
随着“互联网+”理念的普及,越来越多的行业将自己的传统业务与互联网相结合,在这样的背景下,互联网金融应运而生。P2P网络借贷作为互联网普惠金融的典型代表之一,经过十多年的快速发展,在我国互联网金融市场上的占比越来越重。因此研究P2P网络借贷对消费者投资决策、P2P网络借贷平台经营管理以及政府完善P2P监管政策都具有理论意义与实践意义。近年来,随着互联网技术的发展,搜索引擎服务也越来愈完善,80%的