摘要: logging的使用方法 1,简单使用方法 >>> import logging >>> logging.warning('this is a warning') WARNING:root:this is a warning 2,通用的记录日志的方法,可加入日志的级别 >>> import logging >>> logging.log(logging.WARNING,"this is a... 阅读全文
posted @ 2017-07-02 16:38 道高一尺 阅读(441) 评论(0) 推荐(0)
摘要: 初始化参数 class scrapy.http.Response( url[, status=200, headers, body, flags ] ) 其他成员 url status headers body request meta flags copy() replace() 子类介绍 class scrapy.http.TextResponse(url... 阅读全文
posted @ 2017-07-02 16:10 道高一尺 阅读(3797) 评论(0) 推荐(0)
摘要: scrapy中的request 初始化参数 class scrapy.http.Request( url [ , callback, method='GET', headers, body, cookies, meta, encoding='utf-8', priority=0, don't_filter=False, errback ] ) 1,生成Request的方法 def par... 阅读全文
posted @ 2017-07-02 16:05 道高一尺 阅读(4117) 评论(0) 推荐(0)
摘要: scrapy.Spider的属性和方法 属性: name:spider的名称,要求唯一 allowed_domains:允许的域名,限制爬虫的范围 start_urls:初始urls custom_settings:个性化设置,会覆盖全局的设置 crawler:抓取器,spider将绑定到它上面 custom_settings:配置实例,包含工程中所有的配置变量 logger:日志实例,打印调试... 阅读全文
posted @ 2017-07-02 12:08 道高一尺 阅读(2833) 评论(0) 推荐(0)