scrapy框架学习(四)scrapy shell
scrapy shell
Scrapy shell是一个交互终端在未启动spider的情况下尝试及调试您的爬取代码。 其本意是用来测试提取数据的代码,不过您可以将其作为正常的Python终端,在上面测试任何的Python代码。
该终端是用来测试XPath或CSS表达式,查看他们的工作方式及从爬取的网页中提取的数据。 在编写您的spider时,该终端提供了交互性测试您的表达式代码的功能,免去了每次修改后运行spider的麻烦。(安装IPython,替代标准Python终端 pip install IPython)

1.启动scrapy shell
scrapy shell www.qiushibaike.com/text


报错,换一个位置启动终端。在之前写的爬虫目录启动。


在该目录启动成功。

测试XPath或CSS表达式

浙公网安备 33010602011771号