论文部分内容阅读
介绍了搜索引擎数据采集器的并行技术,分析了并行数据采集器的任务分配模式及其工作原理,讨论了任务粒度对动态分配效果的影响,并提出了动态分配模式下的任务分配策略,最后介绍了Sun ONE Grid Engine的任务调度机制,并利用Sun ONE Grid Engine对所提出的动态任务分配策略进行了实现.