摘要：scrapy log设置和输出 在settings.py 中设置log级别 LOG_LEVEL = 'WARNING' log 级别 CRITICAL - 严重错误(critical) ERROR - 一般错误(regular errors) WARNING - 警告信息(warning messa 阅读全文

摘要：https://scrapy-cookbook.readthedocs.io/zh_CN/latest/scrapy-11.html scrapy 模拟登陆 selenium 安装 pip3 install selenium 下载对应的浏览器驱动 先检查下自己的浏览器的版本 下载对应版本的驱动 ch 阅读全文

摘要：scrapy 动态加载网页的数据提取 安装scrapy selenium pip3 install scrapy-selenium 原理 第4步的时候，当给到request的时候，Downloader是没有办法弄到动态加载的网页数据的 但是第4和第5步都需要经过一个下载中间件，而这个中间件就是要进行 阅读全文

摘要：scrapy tutorial scrapy的整体架构 architecture The data flow in Scrapy is controlled by the execution engine, and goes like this: The Engine gets the initia 阅读全文