摘要: downloader middleware作用:改写请求,如加入代理,加入头部等;处理异常等。 阅读全文
posted @ 2017-06-18 18:39 道高一尺 阅读(443) 评论(0) 推荐(0)
摘要: logging模块是Python提供的自己的程序日志记录模块。 在大型软件使用过程中,出现的错误有时候很难进行重现,因此需要通过分析日志来确认错误位置,这也是写程序时要使用日志的最重要的原因。 scrapy使用python内置的logging模块记录日志 日志的级别 1. logging.CRITI 阅读全文
posted @ 2017-06-18 18:09 道高一尺 阅读(3957) 评论(0) 推荐(0)
摘要: 作者:知乎用户链接:https://www.zhihu.com/question/54773510/answer/146971644 meta属性是字典,字典格式即{‘key’:'value'},字典是一种可变容器模型,可存储任意类型对象。 request中meta参数的作用是传递信息给下一个函数, 阅读全文
posted @ 2017-06-18 17:02 道高一尺 阅读(3590) 评论(0) 推荐(0)