scrapy框架学习(四)scrapy shell

scrapy shell

Scrapy shell是一个交互终端在未启动spider的情况下尝试及调试您的爬取代码。 其本意是用来测试提取数据的代码,不过您可以将其作为正常的Python终端,在上面测试任何的Python代码。

该终端是用来测试XPath或CSS表达式,查看他们的工作方式及从爬取的网页中提取的数据。 在编写您的spider时,该终端提供了交互性测试您的表达式代码的功能,免去了每次修改后运行spider的麻烦。(安装IPython,替代标准Python终端 pip install IPython)

1.启动scrapy shell

  scrapy shell www.qiushibaike.com/text

报错,换一个位置启动终端。在之前写的爬虫目录启动。

 

在该目录启动成功。

测试XPath或CSS表达式

 

posted on 2021-01-27 20:00  逐梦的猫  阅读(135)  评论(0)    收藏  举报

导航