python环境管理和软件包管理（转）

一：python之环境管理

缘起

情景1：不同python版本的管理

同一电脑上的多个python版本之前的管理.

情景2：同一python版本中同一库的不同版本管理

例如在python2.7下应用A是基于Django1.6，应用B是基于Django1.7的，这种情况怎么管理。

为解决以上问题，下面隆重介绍下virtualenv、virtualenvwrapper。

virtualenv

摘自virtualenv官网的https://virtualenv.pypa.io/en/latest/virtualenv.html一段介绍：

“The basic problem being addressed is one of dependencies and versions, and indirectly permissions. Imagine you have an application that needs version 1 of LibFoo, but another application requires version 2. How can you use both these applications? If you install everything into/usr/lib/python2.7/site-packages (or whatever your platform’s standard location is), it’s easy to end up in a situation where you unintentionally upgrade an application that shouldn’t be upgraded.

Or more generally, what if you want to install an application and leave it be? If an application works, any change in its libraries or the versions of those libraries can break the application.

Also, what if you can’t install packages into the global site-packages directory? For instance, on a shared host.”

大意就是virtualenv用于在一台机器上创建多个独立的python运行环境，可以解决：

l 隔离项目之间的第三方包依赖

l 在没有权限的情况下安装新的Python软件包

除此之外，还有一个额外的好处：部署应用时，把开发环境的虚拟环境打包到生产环境即可。

安装

方式一：通过pip

[sudo] pip install virtualenv

方式二：源码方式

下载、解压

cd virtualenv-X.X

[sudo] python setup.py install

方式N…

使用

创建虚拟环境

virtualenv [虚拟环境名称] /virtualevn.exe [虚拟环境名称]

我的环境是windows python3.4，这样创建虚拟环境：

E:\>D:\Python34\Scripts\virtualenv.exe env_py3.4

Using base prefix 'D:\\Python34'

New python executable in env_py3.4\Scripts\python.exe

Installing setuptools, pip...done.

创建虚拟环境env_py3.4之后，对应目录下面有以下文件夹：

E:\env_py3.4 的目录

2014/11/26 15:38 <DIR> .

2014/11/26 15:38 <DIR> ..

2014/05/16 15:34 <DIR> Include

2014/11/26 15:38 <DIR> Lib

2014/11/26 15:38 <DIR> Scripts

其中Lib/site-packages包含了，从系统安装的python3.4下面的库。默认情况下，虚拟环境会依赖系统环境中的site packages，就是说系统中已经安装好的第三方package也会安装在虚拟环境中，如果不想依赖这些package，那么可以加上参数 --no-site-packages建立虚拟环境

virtualenv --no-site-packages [虚拟环境名称]

启用虚拟环境

source bin/activate或者 Scripts\activate.bat

启用虚拟环境之后，命令行提示符将以虚拟环境名为前缀，如(env_py3.4) E:\env_py3.4>。也可以通过python打印出os.sys.path进行验证，如在我的env_py3.4虚拟环境启用之后，系统path路径如下所示：

E:\env_py3.4>Scripts\activate

(env_py3.4) E:\env_py3.4>python

Python 3.4.0 (v3.4.0:04f714765c13, Mar 16 2014, 19:24:06) [MSC v.1600 32 bit (In

tel)] on win32

Type "help", "copyright", "credits" or "license" for more information.

>>> import os

>>> print(os.sys.path)

['', 'E:\\env_py3.4\\Scripts\\python34.zip', 'E:\\env_py3.4\\DLLs', 'E:\\env_py3

.4\\lib', 'E:\\env_py3.4\\Scripts', 'D:\\Python34\\Lib', 'D:\\Python34\\DLLs', '

E:\\env_py3.4', 'E:\\env_py3.4\\lib\\site-packages']

从os.sys.path中可以看出，这个环境下执行python相关的操作都是限定在虚拟环境中。

退出虚拟环境

bin/deactivate 或者 Scripts\deactivate

如退出env_py3.4虚拟环境，命令行提示符前缀也相应改变了。

(env_py3.4) E:\env_py3.4>Scripts\deactivate

E:\env_py3.4>

在虚拟环境中安装新的python软件包，跟正常的python一样，并且虚拟环境中已经附带pip、easy_install等工具，可以非常方便的使用。

virtualenvwrapper

Virtualenvwrapper 是一个Virtualenv 的extension，可使虚拟环境的管理变得更容易。详细来说，Virtualenvwrapper 提供下述功能：

l 将所有的虚拟环境整合在一个目录下。

l 管理（新增、移除、复制）所有的虚拟环境。

l 可以使用一个命令切换虚拟环境。

l Tab 补全虚拟环境的名字。

l 每个操作都提供允许使用者自定的hooks。

l 可撰写容易分享的extension plugin 系统。

安装

通过pip或者easy_install安装virtualenvwrapper

pip install virtualenvwrapper

默认virtualenvwrapper安装在/usr/local/bin下面，实际上你需要运行virtualenvwrapper.sh文件才行。

说明：virtualenvwrapper is a set of shell functions defined in Bourne shell compatible syntax。所以在window平台下，是不是使用不了的，但是对应有一个virtualenvwrapper-win版本（https://pypi.python.org/pypi/virtualenvwrapper-win）。

virtualenvwrapper-win将安装在python根目录下面，如D:\Python34。

# using pip

pip install virtualenvwrapper-win

# using easy_install

easy_install virtualenvwrapper-win

# from source

git clone git://github.com/davidmarble/virtualenvwrapper-win.git

cd virtualenvwrapper-win

python setup.py install

使用

virtualenvwrapper-win和virtualenvwrapper的使用方式完全一样：

l 列出虚拟环境列表：workon 或者lsvirtualenv

l 新建虚拟环境：mkvirtualenv [虚拟环境名称]

l 启动/切换虚拟环境：workon [虚拟环境名称]

l 删除虚拟环境：rmvirtualenv [虚拟环境名称]

l 离开虚拟环境：deactivate.

例如，我创建了3个虚拟环境

…….

(vn_py3.4_app2) D:\Python34>mkvirtualenv.bat vn_py3.4_app3

Using base prefix 'D:\\Python34'

New python executable in vn_py3.4_app3\Scripts\python.exe

Installing setuptools, pip...done.

(vn_py3.4_app3) D:\Python34>workon.bat

Pass a name to activate one of the following virtualenvs:

==========================================================

vn_py3.4_app1

vn_py3.4_app2

vn_py3.4_app3

默认创建的虚拟环境路径为：%USERPROFILE%\Envs，即C:\Users\用户名\Envs。

切换虚拟环境：

(vn_py3.4_app3) D:\Python34>workon.bat vn_py3.4_app1

(vn_py3.4_app1) D:\Python34>workon.bat vn_py3.4_app2

(vn_py3.4_app2) D:\Python34>

注意：如果window下面碰到D:\Python34\Scripts>mkvirtualenv.bat F:\evn_py3.4_app1

python.exe: can't open file 'D:\Python34\Scripts\virtualenv-script.py': [Errno 2

] No such file or directory，修改mkvirtualenv.bat中的python.exe "%PYHOME%\Scripts\virtualenv-script.py" %ARGS% ==》python.exe "%PYHOME%\Scripts\virtualenv.exe" %ARGS%即可。

总结

基于virtualenv + virtualenvwrapper可以很好的完成环境隔离，保证对每个应用的环境是干净的。而且对一个干净的环境可以通过：

pip freeze > requirements.txt将包依赖信息保存在requirements.txt文件

pip install -r requirements.txt会自动从网上下载并安装所有包

方便应用部署分发，关于pip软件包管理再下一篇介绍。

二：Python常用软件包管理工具

一般python软件包管理工具，distribute是setuptools的替代方案（因为Setuptools包不再维护了），pip是easy_install的替代方案。本篇重点介绍pip，其它感兴趣的自行了解。

pip最流行的软件包管理工具

pip的核心开发人员之一的 Donald Stufft，去年写了一篇博客详细描述了PyPI CDN供应商4天的流量。其中一个纬度展示，使用软件包管理工具从PyPI安装软件包的用户中，大约75%的用户使用pip。该工具已被证明非常有用和流行，在2013年10月pip将被从3.4版本起，随python内置发布。

PyPI首页推荐的软件包安装方法：

安装

方法一：

l 下载get-pip.py文件，https://bootstrap.pypa.io/get-pip.py

l python get-pip.py

D:\Python33>python get-pip.py

Downloading/unpacking pip

Downloading/unpacking setuptools

Installing collected packages: pip, setuptools

Successfully installed pip setuptools

Cleaning up...

方式二：源码方式安装

l 下载源码包：https://pypi.python.org/packages/source/p/pip/

l 解压

l cd 到对应目录

l python setup.py install

使用

l 从PyPI安装软件包：

$ pip install SomePackage

  [...]

  Successfully installed SomePackage

l 查看软件包安装了哪些文件及路径等信息：

$ pip show --files SomePackage

  Name: SomePackage

  Version: 1.0

  Location: /my/env/lib/pythonx.x/site-packages

  Files:

   ../somepackage/__init__.py

   [...]

l 查看哪些软件包已经有更新版本了：

$ pip list --outdated

  SomePackage (Current: 1.0 Latest: 2.0)

l 升级软件包：

$ pip install --upgrade SomePackage

  [...]

  Found existing installation: SomePackage 1.0

  Uninstalling SomePackage:

    Successfully uninstalled SomePackage

  Running setup.py install for SomePackage

  Successfully installed SomePackage

l 卸载软件包：

$ pip uninstall SomePackage

  Uninstalling SomePackage:

    /my/env/lib/pythonx.x/site-packages/somepackage

  Proceed (y/n)? y

  Successfully uninstalled SomePackage

pip高级用法

前面小节介绍pip的基本功能使用，已经满足了绝大部分需求。下面介绍pip的一些高级用法：

l 查询软件包

$ pip search "query"

l 列出安装的所有软件包

$ pip list

l 安装软件包的指定版本号

通过使用==, >=, <=, >, <来指定一个版本号

$ pip install SomePackage            # latest version

$ pip install SomePackage==1.0.4     # specific version

$ pip install 'SomePackage>=1.0.4'     # minimum version

l 根据依赖文件安装软件包

想象一个场景，使用《优雅的使用python之环境管理》创建了一个感觉的虚拟环境，然后安装了一些依赖的软件包，开发出了应用APP。这个时候，你需要部署到服务器？

这个时候可以使用pip导出依赖文件列表，然后在服务器上根据依赖文件列表，自动安装对应的软件包。是不是很方便！

pip freeze > requirements.txt

pip install -r requirements.txt

hustfeiji