Python解释执行原理

这里的解释执行是相对于编译执行而言的。我们都知道，使用C/C++之类的编译性语言编写的程序，是需要从源文件转换成计算机使用的机器语言，经过链接器链接之后形成了二进制的可执行文件。运行该程序的时候，就可以把二进制程序从硬盘载入到内存中并运行。

      但是对于Python而言，python源码不需要编译成二进制代码，它可以直接从源代码运行程序。当我们运行python文件程序的时候，python解释器将源代码转换为字节码，然后再由python解释器来执行这些字节码。这样，python就不用担心程序的编译,库的链接加载等问题了。

      对于python解释语言，有以下3方面的特性：

1. 每次运行都要进行转换成字节码，然后再有虚拟机把字节码转换成机器语言，最后才能在硬件上运行。与编译性语言相比，每次多出了编译和链接的过程，性能肯定会受到影响。
2. 由于不用关心程序的编译和库的链接等问题，开发的工作也就更加轻松啦。
3. python代码与机器底层更远了，python程序更加易于移植，基本上无需改动就能在多平台上运行。

      在具体计算机上实现一种语言，首先要确定的是表示该语言语义解释的虚拟计算机，一个关键的问题是程序执行时的基本表示是实际计算机上的机器语言还是虚拟机的机器语言。这个问题决定了语言的实现。根据这个问题的回答，可以将程序设计语言划分为两大类：编译型语言和解释型语言。

1.   编译实现的语言，如：C、C++、Fortran、Pascal、Ada。由编译型语言编写的源程序需要经过编译,汇编和链接才能输出目标代码，然后由机器执行目标代码。目标代码是有机器指令组成，不能独立运行，因为源程序中可能使用了一些汇编程序不能解释引用的库函数，而库函数又不在源程序中，此时还需要链接程序完成外部引用和目标模板调用的链接任务，最后才能输出可执行代码。
2.   解释型语言，解释器不产生目标机器代码，而是产生中间代码，这种中间代码与机器代码不同，中间代码的解释是由软件支持的，不能直接使用在硬件上。该软件解释器通常会导致执行效率较低，用解释型语言编写的程序是由另一个可以理解中间代码的解释程序执行的。和编译的程序不同的是, 解释程序的任务是逐一将源代码的语句解释成可执行的机器指令，不需要将源程序翻译成目标代码再执行。对于解释型语言，需要一个专门的解释器来执行该程序，每条语句只有在执行是才能被翻译，这种解释型语言每执行一次就翻译一次，因而效率低下。
3.   Java解释器，java很特殊，java是需要编译的，但是没有直接编译成机器语言，而是编译成字节码，然后在Java虚拟机上用解释的方式执行字节码。Python也使用了类似的方式，先将python编译成python字节码，然后由一个专门的python字节码解释器负责解释执行字节码。
4.   python是一门解释语言，但是出于效率的考虑，提供了一种编译的方法。编译之后就得到pyc文件，存储了字节码。python这点和java很类似，但是java与python不同的是，python是一个解释型的语言，所以编译字节码不是一个强制的操作，事实上，编译是一个自动的过程，一般不会在意它的存在。编译成字节码可以节省加载模块的时间，提高效率。
5.   除了效率之外，字节码的形式也增加了反向工程的难度，可以保护源代码。这个只是一定程度上的保护，反编译还是可以的。

1. 过程概述

Python先把代码（.py文件）编译成字节码，交给字节码虚拟机，然后虚拟机一条一条执行字节码指令，从而完成程序的执行。

2. 字节码

字节码在Python虚拟机程序里对应的是PyCodeObject对象。
.pyc文件是字节码在磁盘上的表现形式。

3. pyc文件

PyCodeObject对象的创建时机是模块加载的时候，即import。
Python test.py会对test.py进行编译成字节码并解释执行，但是不会生成test.pyc。
如果test.py加载了其他模块，如import util，Python会对util.py进行编译成字节码，生成util.pyc，然后对字节码解释执行。
如果想生成test.pyc，我们可以使用Python内置模块py_compile来编译。
加载模块时，如果同时存在.py和.pyc，Python会尝试使用.pyc，如果.pyc的编译时间早于.py的修改时间，则重新编译.py并更新.pyc。

4. PyCodeObject

Python代码的编译结果就是PyCodeObject对象。

C

1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20

typedef struct {     PyObject_HEAD     int co_argcount;        /* 位置参数个数 */     int co_nlocals;         /* 局部变量个数 */     int co_stacksize;       /* 栈大小 */     int co_flags;       PyObject *co_code;      /* 字节码指令序列 */     PyObject *co_consts;    /* 所有常量集合 */     PyObject *co_names;     /* 所有符号名称集合 */     PyObject *co_varnames;  /* 局部变量名称集合 */     PyObject *co_freevars;  /* 闭包用的的变量名集合 */     PyObject *co_cellvars;  /* 内部嵌套函数引用的变量名集合 */     /* The rest doesn’t count for hash/cmp */     PyObject *co_filename;  /* 代码所在文件名 */     PyObject *co_name;      /* 模块名|函数名|类名 */     int co_firstlineno;     /* 代码块在文件中的起始行号 */     PyObject *co_lnotab;    /* 字节码指令和行号的对应关系 */     void *co_zombieframe;   /* for optimization only (see frameobject.c) */ } PyCodeObject;

---

5. pyc文件格式

加载模块时，模块对应的PyCodeObject对象被写入.pyc文件，格式如下：

---

6. 分析字节码

6.1 解析PyCodeObject

Python提供了内置函数compile可以编译Python代码和查看PyCodeObject对象，如下：

Python代码[test.py]

C

1 2 3 4 5 6 7

s=”hello”   deffunc():     prints   func()

在Python交互式shell里编译代码得到PyCodeObject对象:

dir(co)已经列出co的各个域，想查看某个域直接在终端输出即可：

test.py的PyCodeObject

C

1 2 3 4 5 6 7

co.co_argcount    0 co.co_nlocals     0 co.co_names       (‘s’, ’func’) co.co_varnames    (‘s’, ’func’) co.co_consts      (‘hello’, <code object func at 0x2aaeeec57110, file ”test.py”, line 3>, None) co.co_code        ’d\x00\x00Z\x00\x00d\x01\x00\x84\x00\x00Z\x01\x00e\x01\x00\x83\x00\x00\x01d\x02\x00S’

Python解释器会为函数也生成的字节码PyCodeObject对象，见上面的co_consts[1]

func的PyCodeObject

C

1 2 3 4 5 6 7

func.co_argcount  0 func.co_nlocals    0 func.co_names      (‘s’,) func.co_varnames  () func.co_consts    (None,) func.co_code      ‘t\x00\x00GHd\x00\x00S’

co_code是指令序列，是一串二进制流，它的格式和解析方法见6.2。

6.2 解析指令序列

指令序列co_code的格式

opcode	oparg	opcode	opcode	oparg	…
1 byte	2 bytes	1 byte	1 byte	2 bytes

Python内置的dis模块可以解析co_code，如下图：

test.py的指令序列

func函数的指令序列

第一列表示以下几个指令在py文件中的行号;
第二列是该指令在指令序列co_code里的偏移量;
第三列是指令opcode的名称，分为有操作数和无操作数两种，opcode在指令序列中是一个字节的整数;
第四列是操作数oparg，在指令序列中占两个字节，基本都是co_consts或者co_names的下标;
第五列带括号的是操作数说明。

---

7. 执行字节码

Python虚拟机的原理就是模拟可执行程序再X86机器上的运行，X86的运行时栈帧如下图：

假如test.py用C语言来实现，会是下面这个样子：

C

1 2 3 4 5 6 7 8 9 10 11

const char *s = “hello”;   void func() {     printf(“%s\n”, s); }   int main() {     func();     return 0; }

Python虚拟机的原理就是模拟上述行为。当发生函数调用时，创建新的栈帧，对应Python的实现就是PyFrameObject对象。

7.1 PyFrameObject

C

1 2 3 4 5 6 7 8 9 10 11 12

typedefstruct_frame{     PyObject_VAR_HEAD     struct_frame*f_back;    /* 调用者的帧 */     PyCodeObject*f_code;    /* 帧对应的字节码对象 */     PyObject*f_builtins;    /* 内置名字空间 */     PyObject*f_globals;      /* 全局名字空间 */     PyObject*f_locals;      /* 本地名字空间 */     PyObject**f_valuestack;  /* 运行时栈底 */     PyObject**f_stacktop;    /* 运行时栈顶 */     ……. }

那么对应Python的运行时栈就是这样子：

7.2 执行指令

执行test.py的字节码时，会先创建一个栈帧，以下用f表示当前栈帧，执行过程注释如下：

test.py的符号名集合和常量集合

C

1 2 3

co.co_names   (‘s’, ’func’) co.co_consts  (‘hello’, <code object func at 0x2aaeeec57110, file ”test.py”, line 3>, None)

test.py的指令序列

上面的CALL_FUNCTION指令执行时，会创建新的栈帧，并执行func的字节码指令，以下用f表示当前栈帧，func的字节码执行过程如下：

func函数的符号名集合和常量集合

C

1 2 3

func.co_names      (‘s’,) func.co_consts      (None,)

func函数的指令序列

7.3 查看栈帧

如果你想查看当前栈帧，Python提供了sys._getframe()方法可以获取当前栈帧，你只需要在代码里加入代码如下：

C

1 2 3 4 5 6 7 8 9

deffunc():     importsys     frame=sys._getframe()     printframe.f_locals     printframe.f_globals     printframe.f_back.f_locals     #你可以打印frame的各个域     prints

1.