Python 虚拟环境工作原理解析

Python 的虚拟环境用来创建一个相对独立的执行环境，尤其是一些依赖的三方包，最常见的如不同项目依赖同一个但是不同版本的三方包，而且，在虚拟环境中的安装包不会影响到系统的安装包。

不过，其具体的工作原理是怎样的，这里详细介绍。

简介

几乎每个语言都包含自己的包管理工具，这是一个非常复杂的话题，而不同语言选择的实现又略有区别，都会做一些选择和取舍。而 Python 的包管理解决方案很多，例如 pip、virtualenv、pyenv 等等。

不过 Python 语言本身的机制决定了其原理一样。

使用

比较常用的是 virtualenv 工具，可以参考 Guide to Python 中的详细介绍，另外，Python3 也提供了自己的虚拟环境创建模块，在创建完成后基本都是通过一个脚本启用独立环境。

例如，如下是使用 virtualenv 以及 venv 的虚拟环境创建过程。

$ mkdir /tmp/project && cd /tmp/project

$ virtualenv --no-site-packages foobar
$ python3 -m venv foobar

然后，就可以通过 source foobar/bin/activate 命令激活新环境。

激活脚本

所谓的独立环境，无非就是解决两个问题：A) 执行 Python 解析器所使用的版本；B) 使用独立的包。其中前者，在 Linux 主要是通过 PATH 环境变量设置，在 activate 脚本中有如下的内容。

VIRTUAL_ENV="/tmp/project/foobar"
export VIRTUAL_ENV

_OLD_VIRTUAL_PATH="$PATH"
PATH="$VIRTUAL_ENV/bin:$PATH"
export PATH

也就是将创建的目录添加到 PATH 环境变量最开始，那么就会优先查找该路径，这样就解决了 python 解析器独立的问题。

工作原理

如果要使用独立的包，那么关键就是如何在通过 import 导入时查找到所需的包。

包的查找顺序可以查看Python 模块简介 中的介绍，简单来说，就是先查看是否是内置模块，然后再从 sys.path 列表指定的地址中搜索。所以，这里的关键就是 sys.path 列表的生成。

关于 sys.prefix

在 Python 启动的时候，会先加载一个强依赖的 os.py 包，而查找这个包是根据解析器的当前路径，以及固定的查找规则来实现的。

简单来说，就是在当前路径加上 lib/python${VERSION}/os.py 逐层向上查找，注意，如果是 64 位的操作系统，那么会使用 lib64 替换掉之前的 lib 路径。

例如，默认的 Python3 的解析器路径为 /usr/bin/python3.6 ，那么基础路径是 /usr/bin/ ，所以，其查找顺序为。

/usr/bin/lib64/python3.6/os.py
/usr/lib64/python3.6/os.py
/lib64/python3.6/os.py

只要在任意路径上找到 os.py 包，那么就会退出查找，并设置好 sys.prefix 变量，详细可以通过 strace python 查看，会有如下的搜索路径。

stat("/usr/bin/Modules/Setup", 0x7fffb7146300) = -1 ENOENT (No such file or directory)
stat("/usr/bin/lib64/python2.7/os.py", 0x7fffb71462f0) = -1 ENOENT (No such file or directory)
stat("/usr/bin/lib64/python2.7/os.pyc", 0x7fffb71462f0) = -1 ENOENT (No such file or directory)
stat("/usr/lib64/python2.7/os.py", {st_mode=S_IFREG|0644, st_size=25910, ...}) = 0

在查找到 os.py 之后，会将该路径设置为 sys.prefix 变量，然后解析器就会到 ${sys.prefix}/lib/python${VERSION} 目录下查找包。

总结

那么其工作原理就是，将 python 解析器保存在 ${VENV_PATH}/bin/python ，然后创建 ${VENV_PATH}/lib/python${VERSION} 目录，并将相关的文件复制到该目录下，可以复制文件，也可以使用软连接。

其它

如上，如果是 Python3 就可以直接使用内置的 venv 模块，其原理与上述的相同，同时通过 pyvenv.cfg 配置文件来标识原始的 home 位置，该文件的内容如下。

home = /usr/bin
include-system-site-packages = false
version = 3.6.8

如果 include-system-site-packages 为 true ，解释器启动时就会将系统的库添加到 sys.path 里面，这样在虚拟环境就可以 import 系统中安装的包了。

注意，Python3 提供的 venv 模块只能根据当前版本创建，不能支持 Python2 。

参考 Virtualenv 官方文档，细节可以参考该文档。

Creation of virtual environments Python3 提供的 venv 介绍，包括常见参数以及配置文件。