基于Crawler4j和Quartz的分布式爬虫系统

来源 :科技创新与应用 | 被引量 : 0次 | 上传用户:qqww1234cc
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
网络爬虫是实现数据分析的重要基础,通过网络爬虫可实现对数据的获取。针对爬虫的渠道广、数量多且杂、单点效率低的问题,引入了轻量级的多线程爬虫框架Crawler4j和分布式定时任务调度框架Quartz,文章主要基于这两个框架来搭建稳定、高效的分布式爬虫系统。
其他文献
在"一带一路"背景下,中国对中亚五国直接投资不断加速,这对双方经济发展都有重要意义。中国对中亚五国直接投资的投资规模、投资产业和投资主体均存在显著差异性。在引力模型
目的观察祛瘀补肾法治疗青春期功能失调性子宫出血的临床疗效。方法将120例青春期功能失调性子宫出血肾虚血瘀型患者随机分为两组,分别采用补肾活血中药和西药性激素进行治疗,
从创新思维能力的构建要素——哲学思维能力、发散思维能力、形象思维能力、直觉思维能力和类比思维能力等方面探讨在生物教学中如何创建MCAJ环境,培养学生的创新思维能力。
目的观察化瘀明目合剂对非增殖性糖尿病视网膜病变(non—proliferative diabetic retinopathy,NPDR)的疗效。方法将35例(68眼)NPDR患者随机分为2组,予对照组16例(32眼)口服羟苯磺酸钙
杨骏认为神志病的病机为七情异常、六郁之邪等因素导致人体脏腑功能受扰,气血津液异常,脑神失用.其治疗神志病多从任督二脉选穴组方,以周身通调、形神共养,达镇静安神、调和
观察者带着明确的研究主题,通过特定的工作程序,实施有效课堂观察,并反复研讨反思教学行为,探究新的教学策略与方法,从而促进教师专业发展。
目的探讨氯沙坦钾氢氯噻嗪片(海捷亚)对老年原发性高血压患者血管内皮功能的保护作用以及对血糖、血脂、尿酸的影响。方法31例老年原发性高血压患者给予海捷亚治疗4周,剂量50
您有问题无法解决吗?或者您自认为是解决问题的高手,那么来参与我们的有问必答吧。提出或者回答问题,都有相应的积分奖励哦,还有机会获得在杂志上刊登的特权呢!邮箱:micsun@365mas
公民的基本权利神圣不可侵犯。如果人人都享有绝对的自由,则人人均无自由可言。因而,在承认公民所享有的基本权利的同时,必然包含着对基本权利的限制。本文指出,对基本权利的
阐述了杨树白粉病、灰斑病、黑斑病、黑星病和锈病的病症特点和发病规律,针对病害的发生提出了相应防治方法。