时隔五年,Scrapyd 终于原生支持 basic auth

Issue in 2014

scrapy/scrapyd/issues/43

Pull request in 2019

scrapy/scrapyd/pull/326


试用

1. 安装: pip install -U git+https://github.com/my8100/scrapyd.git@add_basic_auth 
2. 更新配置文件 scrapyd.conf,其余配置项详见官方文档

[scrapyd]
username = yourusername
password = yourpassword

 


3. 启动: scrapyd 

In [1]: import requests

In [2]: requests.get('http://127.0.0.1:6800/').status_code
Out[2]: 401

In [3]: requests.get('http://127.0.0.1:6800/', auth=('admin', 'admin')).status_code
Out[3]: 401

In [4]: requests.get('http://127.0.0.1:6800/', auth=('yourusername', 'yourpassword')).status_code
Out[4]: 200

 

4. 由于 Scrapyd 的 GitHub 最新提交已经重构了 Jobs 页面,如果正在使用 ScrapydWeb 管理 Scrapyd,则需同步更新 ScrapydWeb:

 pip install -U git+https://github.com/my8100/scrapydweb.git 


GitHub

my8100/scrapyd

 

posted @ 2019-05-09 16:14  my8100  阅读(755)  评论(0编辑  收藏  举报