摘要： scarpy 不仅提供了 scrapy crawl spider 命令来启动爬虫，还提供了一种利用 API 编写脚本 来启动爬虫的方法。 scrapy 基于 twisted 异步网络库构建的，因此需要在 twisted 容器内运行它。 可以通过两个 API 运行爬虫：scrapy.crawler.C 阅读全文