摘要: 准备 在断网的和联网的机器安装pip,下载地址https://pypi.python.org/pypi/pip 在联网的开发机器上安装好需要的包 例如: pip3 install paramiko pip3 install fabric 打包已安装的包 新建pyenv文件夹用来存储下载下来的所需安装 阅读全文
posted @ 2018-05-18 14:06 一只小小的寄居蟹 阅读(2534) 评论(0) 推荐(0)
摘要: 下载中间件 下载器中间件是介于Scrapy的request/response处理的钩子框架。 是用于全局修改Scrapy request和response的一个轻量、底层的系统 编写您自己的下载器中间件 每个中间件组件是一个定义了以下一个或多个方法的Python类 使用中间件随机选择头部信息 爬取天 阅读全文
posted @ 2018-05-18 00:29 一只小小的寄居蟹 阅读(1603) 评论(0) 推荐(1)