二十四 Python分布式爬虫打造搜索引擎Scrapy精讲—爬虫和反爬的对抗过程以及策略—scrapy架构源码分析图

1、基本概念

 

2、反爬虫的目的

 

3、爬虫和反爬的对抗过程以及策略

 

 

scrapy架构源码分析图