spider在抓取过程中面对着复杂的网络环境,为了使系统可以抓取到尽可能多的有价值资源并保持系统及实际环境中页面的一致性同时不给网站体验造成压力,会设计多种复杂的抓取策略。以下简单介绍一下抓取过程中涉及到的主要策略类型:1、抓取友好性:抓取压力调配降低对网站的访问压力2、常用抓取返回码示意3、多种url重定向的识别4、抓取优先级调配5、重复url的过滤6、暗网数据的获取7、抓取反作弊8、提高抓取效率,高效利用带宽1、抓取友好性互联网资源庞大的数量级,这就要求抓取系统尽可能的高效利用带宽,在有限的硬件和带宽资源下尽可能多的抓取到有价值资源。这就造成了另一个问...
查看详细内容 >>