会员
众包
新闻
博问
闪存
赞助商
HarmonyOS
Chat2DB
所有博客
当前博客
我的博客
我的园子
账号设置
会员中心
简洁模式
...
退出登录
注册
登录
英雄莫问出处,富贵当思缘由
博客园
首页
新随笔
联系
订阅
管理
解决 scrapy 爬虫出现Forbidden by robots.txt
我们在爬取网站的时候,scrapy 默认的是遵循 robots.txt 协议,怎么破解这个文件
操作很简单,找到setting 文件
直接改成
如果觉得对您有帮助,麻烦您点一下推荐,谢谢!
好记忆不如烂笔头
posted @
2017-07-27 21:08
淋哥
阅读(
1790
) 评论(
0
)
收藏
举报
刷新页面
返回顶部
公告