scrapy_cookie禁用_延迟下载_自定义爬虫setting

如何设置禁止cookie?

       在setting中 添加字段:

              COOKIE_ENABLED = False                            # False关闭cookie,True打开

如何设置下载限速?

       在setting中 添加字段:

              TELNETCONSOLE_ENABLED = False            # 默认为0

       如何动态设置下载速度?

              DOWLAND_DELAY = 0                                  # 默认为0

如何给不同的spider设置不同的setting值?

       在每个spider类中添加一个字段,和name同级,字典形式:

              custom_settings = {

           COOKIE_ENABLED = True

  }

  spider启动的时候,用这个custom_settings更新整个全局设置

posted @ 2017-08-15 22:15  梦_鱼  阅读(585)  评论(0编辑  收藏  举报