代码改变世界

CentOS6.5安装Scrapy

2018-09-11 15:03  猎手家园  阅读(408)  评论(0编辑  收藏  举报

1、安装命令超级简单:

[root@mycentos ~]# pip install Scrapy

建立软链接: 

[root@mycentos ~]# ln -s /usr/local/python3/bin/scrapy /usr/bin/scrapy

  

2、但是Scrapy有6个依赖的python包:

  • lxml ,一个高效的XML和HTML解析器
  • parsel , 一个基于 lxml 的 HTML / XML 数据提取库
  • w3lib ,一个用于处理URL和网页编码的多用途助手
  • twisted, 一个异步的网络框架
  • cryptography 和 pyOpenSSL ,以处理各种网络级安全需求

Scrapy 经过测试支持的最低版本为:

  • Twisted 14.0
  • lxml 3.4
  • pyOpenSSL 0.14

 

3、以安装Twisted为例

下载安装包Twisted-18.7.0.tar.bz2:https://pypi.org/project/Twisted/

接下来:

[root@mycentos ~]# tar jxvf Twisted-18.7.0.tar.bz2
[root@mycentos ~]# cd Twisted-18.7.0
[root@mycentos Twisted-18.7.0]# python3 setup.py build
[root@mycentos Twisted-18.7.0]# python3 setup.py install

安装完毕!