Python垃圾回收详解

  • 1.序言
  • 2.环形双向链表
  • 3.引用计数
  • 4.标记清除
  • 5.分代回收
  • 6.Python缓存
  • 池(int)
  • free_list(float/list/tuple/dict)
  • unicode_latin1[256](str)


1.序言

大家都知道每个语言都会有自己的垃圾回收机制,python也不例外。

Python的垃圾回收机制是以引用计数为主,标记清除分代回收为辅加上缓存机制

市面上大部分人使用的都是CPython(以下均用Python指代),众所周知,Python是基于C语言的,所以Python的垃圾回收机制与C语言相似。

正式介绍垃圾回收机制之前,我们先了解一个重要的概念环形双向链表refchain

2.环形双向链表

清理显存 python 脚本 python清理垃圾_清理显存 python 脚本


在python程序中创建任何对象都会放在refchain链表中而当我们创建一个对象时,程序内部还会创建一些其他数据,让我们从C源码中看看会创建哪些数据

清理显存 python 脚本 python清理垃圾_开发语言_02


大家可以看到PyObject结构体中第一行_PyObject_HEAD_EXTRA中定义了上一个对象prev下一个对象next两个值,第二行第三行定义了引用计数器数据类型两个值,综上,在PyObject结构体中包含了4个值

大家继续往下看PyVarObject结构体,当对象是由多个元素组成的时候,还包含一个元素个数ob_size的值

# 在C源码中如何体现每个对象中都有的相同的值:PyObject结构体(4个值)。

# 有多个元素组成的对象:PyObject结构体(4个值) + ob_size 。

# 下面给大家看一个例子就能很清楚地了解了

data = 3.14 # 创建一个浮点型数据

# 内部会创建:
#	 _ob_next = refchain中的上一个对象
#    _ob_prev = refchain中的下一个对象
#    ob_refcnt = 1
#    ob_type = float
#    ob_fval = 3.14

OK,了解了环形双象链表后,大家就能了解透彻以下Python垃圾回收机制内容了

3.引用计数

刚刚我们有学到当python程序运行时,会根据数据类型的不同找到其对应的结构体,根据结构体中的字段来进行创建相关的数据,然后将对象添加到refchain环形双向链表中

其中PyObject结构体中地ob_refcnt就是引用计数器,值默认为1,当有其他变量引用对象时,引用计数器就会发生变化

  • 引用
a = 99999 # a对应对象引用计数为1
b = a # b对应对象引用计数为1
  • 删除引用
a = 99999
b = a
del b # b变量删除;b对应对象引用计数器-1,1-1=0
del a # a变量删除;a对应对象引用计数器-1,1-1=0

# 当一个对象的引用计数器为0时,意味着没有人再使用这个对象了,这个对象就是垃圾,垃圾回收。
# 回收:1.对象从refchain链表移除;2.将对象销毁,内存归还。

大家看上面的引用计数垃圾回收是不是很方便,引用就+1,删除引用就-1

但是遇到循环引用问题,以上的解决方案就不足以处理干净系统垃圾

清理显存 python 脚本 python清理垃圾_Python_03


大家可以看到v1和v2虽然都删除引用了,但实际他们的引用计数器仍为1,仍然存在于系统中

那么怎么处理这种特殊情况呢?这就引出了下面的标记清除

4.标记清除

目的:为了解决引用计数器循环引用的不足。

实现:在python的底层再维护一个链表,链表中专门放那些可能存在循环引用的对象(list/tuple/dict/set)

清理显存 python 脚本 python清理垃圾_开发语言_04


在Python内部 某种情况下触发,回去扫描 可能存在循环应用的链表(链表2)中的每个元素,检查是否有循环引用,如果有则让双方的引用计数器 -1 ;如果是0则垃圾回收。

好了,引入了标记清除解决了循环引用的问题。但是却带来了新的问题

  • 什么时候扫描?
  • 可能存在循环引用的链表扫描代价大,每次扫描耗时久

这就引出了下面的方法分代回收

5.分代回收

清理显存 python 脚本 python清理垃圾_Python_05


Python将可能存在循环应用的对象维护成3个链表(链表2、3、4)

  • 0代:0代中对象个数达到700个扫描一次。
  • 1代:0代扫描10次,则1代扫描一次。
  • 2代:1代扫描10次,则2代扫描一次。

这就解决了什么时候扫描和扫描代价太大的问题,存活越久的(2代)的对象被检查得越少(大大滴良民!)

综上,这就是为什么我一开始说Python的垃圾回收机制是以引用计数为主,标记清除分代回收为辅加上缓存机制,现在大家对这句话应该有了很深的理解

But,上述流程还能优化吗?

6.Python缓存

Python内部为了避免重复创建和销毁一些常见对象,维护了一个池

池(int)

# 启动解释器时,Python内部帮我们创建:-5、-4、..... 256
v1 = 7  # 内部不会开辟内存,直接去池中获取
v2 = 9  # 内部不会开辟内存,直接去池中获取
v3 = 9  # 内部不会开辟内存,直接去池中获取

print(id(v2),id(v3)) # 1820206787120 1820206787120

v4 = 999
v5 = 666
v6 = 666 # 超出小数据池的范围创建对象内部会开辟空间

另外我们上面说过,引用计数为0的时候,对象会被销毁,内存会被回收,理论上是不严谨的。Python对于这个步骤也做了处理

free_list(float/list/tuple/dict)

当一个对象的引用计数器为0时,按理说应该回收,内部不会直接回收,而是将对象添加到 free_list 链表中当缓存。以后再去创建对象时,不再重新开辟内存,而是直接使用free_list

v1 = 3.14  # 开辟内存,内部存储结构体中定义那几个值,并存到refchain中。

del v1     # refchain中移除,将对象添加到 free_list 中(80个),free_list满了则销毁。


v9 = 999.99 # 不会重新开辟内存,去free_list中获取对象,对象内部数据初始化,再放到refchain中。

当然free_list也是有限制的,超出限制后再删除对象也是会被直接销毁

unicode_latin1[256](str)

v1 = "A"
  print( id(v1) ) # 输出:4517720496
  del v1
  v2 = "A"
  print( id(v1) ) # 输出:4517720496
  # 除此之外,Python内部还对字符串做了驻留机制,针对那么只含有字母、数字、下划线的字符串(见源码Objects/codeobject.c),如果内存中已存在则不会重新在创建而是使用原来的地址里(不会像free_list那样一直在内存存活,只有内存中有才能被重复利用)。
  v1 = "lucky"
  v2 = "lucky"
  print(id(v1) == id(v2)) # 输出:True