2020年3月11日
scrapy中主动停止爬虫
摘要： """CloseSpider is an extension that forces spiders to be closed after certain conditions are met. See documentation in docs/topics/extensions.rst """ 阅读全文
posted @ 2020-03-11 12:22 BruceLong 阅读(2880) 评论(0) 推荐(0)
Scrapy 中Filtered offsite request to 'www.sohu.com':报错的解决方法
摘要： 1.查到的原因为： allow domain中的地址和request的地址不一致。 2.解决方案： 将allow domain中的地址修改成和request的地址一致。 或者yield scrapy.Request中添加dont_filter = True 阅读全文
posted @ 2020-03-11 11:07 BruceLong 阅读(402) 评论(0) 推荐(0)