标签:字符 target 利用 ati 版本 创建对象 问题 val 技术
基于C语言源码底层,让你真正了解垃圾回收机制的实现
在python中创建的任何对象都会放在refchain链表中
name = ‘jack‘
age = 18
hobby = [‘篮球‘, ‘美女‘]
内部会创建一些数据【上一个对象、下一个对象、类型、引用个数】
name = ‘jack‘
new = name
内部会创建一些数据【上一个对象、下一个对象、类型、引用个数、val=18】
age = 18
内部会创建一些数据【上一个对象、下一个对象、类型、引用个数、items=元素、元素个数】
hobby = [‘篮球‘, ‘美女‘]
在C源码中如何体现每个对象都有的相同的值:PyObject结构体(4个值)
有多个元素组成的对象:Pyobject结构体(4个值)+ ob_size
data = 3.14
内部会创建:
_ob_next = refchain中的上一个对象
_ob_prev = refchain中的下一个对象
ob_refcnt = 1
ob_type = float
ob_fval = 3.14
v1 = 3.14
v2 = 999
v3 = (1, 2, 3)
当python程序运行时,会根据数据结构的不同来找到对应的结构体,根据结构体中的字段来进行创建相关的数据,然后将对象添加到refchain
双向链表中。
在C源码中有两个关键的结构体:PyObject、PyVarObject
每个对象中有ob_refcnt
就是引用计数器,值默认为1,当有其他变量引用对象时,引用计数器就会发生变化。
a = 9999
b = a
a = 9999
b = a
del b # b变量删除,b对应对象引用计数器-1
del a # a变量删除,a对应对象引用计数器-1
# 当一个对象引用的计数器为0时,意味着没有人再使用这个对象了,这个对象就是垃圾,需要被回收
# 回收:1.对象从refchain链表中移除,2.将对象销毁,内存归还
基于引用计数器进行垃圾回收非常方便和简单,但他还是存在循环引用的问题,导致无法正常的回收一些数据,例如:
v1 = [11,22,33] # refchain中创建一个列表对象,由于v1=对象,所以列表引对象用计数器为1.
v2 = [44,55,66] # refchain中再创建一个列表对象,因v2=对象,所以列表对象引用计数器为1.
v1.append(v2) # 把v2追加到v1中,则v2对应的[44,55,66]对象的引用计数器加1,最终为2.
v2.append(v1) # 把v1追加到v1中,则v1对应的[11,22,33]对象的引用计数器加1,最终为2.
del v1 # 引用计数器-1
del v2 # 引用计数器-1
对于上述代码会发现,执行del
操作之后,没有变量再会去使用那两个列表对象,但由于循环引用的问题,他们的引用计数器不为0,所以他们的状态:永远不会被使用、也不会被销毁。项目中如果这种代码太多,就会导致内存一直被消耗,直到内存被耗尽,程序崩溃。
为了解决循环引用的问题,引入了标记清除
技术,专门针对那些可能存在循环引用的对象进行特殊处理,可能存在循环应用的类型有:列表、元组、字典、集合、自定义类等那些能进行数据嵌套的类型。
标记清除
:创建特殊链表专门用于保存 列表、元组、字典、集合、自定义类等对象,之后再去检查这个链表中的对象是否存在循环引用,如果存在则让双方的引用计数器均 - 1 。如果减完为0,则垃圾回收
对标记清除中的链表进行优化,将那些可能存在循引用的对象拆分到3个链表,链表称为:0/1/2三代,每代都可以存储对象和阈值,当达到阈值时,就会对相应的链表中的每个对象做一次扫描,除循环引用各自减1并且销毁引用计数器为0的对象。
// 分代的C源码
#define NUM_GENERATIONS 3
struct gc_generation generations[NUM_GENERATIONS] = {
/* PyGC_Head, threshold, count */
{{(uintptr_t)_GEN_HEAD(0), (uintptr_t)_GEN_HEAD(0)}, 700, 0}, // 0代
{{(uintptr_t)_GEN_HEAD(1), (uintptr_t)_GEN_HEAD(1)}, 10, 0}, // 1代
{{(uintptr_t)_GEN_HEAD(2), (uintptr_t)_GEN_HEAD(2)}, 10, 0}, // 2代
};
特别注意:0代和1、2代的threshold和count表示的意义不同。
在python中维护了一个refchain双向环状链表、这个链表中存储程序创建的所有对象,每种类型的对象中都有一个ob_refcnt引用计数器的值,引用个数+1、-1,最后当引用计数器变为0时会进行垃圾回收(对象销毁、refchain中移除)。
但是,python中那些可以有多个元素组成的对象可能会存在出现循环引用的问题,为了解决这个问题,python又引入了标记清除和分代回收,在其内部为4个链表
在源码内部当达到各自的阈值时,会出发扫描链表进行标记清除的动作(有循环就各自-1),但是源码内部还提供了优化机制
从上文大家可以了解到当对象的引用计数器为0时,就会被销毁并释放内存。而实际上他不是这么的简单粗暴,因为反复的创建和销毁会使程序的执行效率变低。Python中引入了“缓存机制”机制。 例如:引用计数器为0时,不会真正销毁对象,而是将他放到一个名为 free_list
的链表中,之后会再创建对象时不会在重新开辟内存,而是在free_list中将之前的对象来并重置内部的值来使用。
v1 = 3.14 # 开辟内存来存储float对象,并将对象添加到refchain链表。
print( id(v1) ) # 内存地址:140599203433232
del v1 # 引用计数器-1,如果为0则在rechain链表中移除,不销毁对象,而是将对象添加到float的free_list.
v2 = 9.999 # 优先去free_list中获取对象,并重置为9.999,如果free_list为空才重新开辟内存。
print( id(v2) ) # 内存地址:140599203433232
# 注意:引用计数器为0时,会先判断free_list中缓存个数是否满了,未满则将对象缓存,已满则直接将对象销毁。
-5 <= value < 257
。即:重复使用这个范围的整数时,不会重新开辟内存。 v1 = 38 # 去小数据池small_ints中获取38整数对象,将对象添加到refchain并让引用计数器+1。
print( id(v1)) #内存地址:4401668032
v2 = 38 # 去小数据池small_ints中获取38整数对象,将refchain中的对象的引用计数器+1。
print( id(v2) ) #内存地址:4401668032
# 注意:在解释器启动时候-5~256就已经被加入到small_ints链表中且引用计数器初始化为1,代码中使用的值时直接去small_ints中拿来用并将引用计数器+1即可。另外,small_ints中的数据引用计数器永远不会为0(初始化时就设置为1了),所以也不会被销毁。
v1 = "A"
print( id(v1) ) # 输出:140599159374000
del v1
v2 = "A"
print( id(v1) ) # 输出:140599159374000
# 除此之外,Python内部还对字符串做了驻留机制,针对那么只含有字母、数字、下划线的字符串(见源码Objects/codeobject.c),如果内存中已存在则不会重新在创建而是使用原来的地址里(不会像free_list那样一直在内存存活,只有内存中有才能被重复利用)。
v1 = "jack"
v2 = "jack"
print(id(v1) == id(v2)) # 输出:True
v1 = [11,22,33]
print( id(v1) ) # 输出:4517628816
del v1
v2 = ["j","ack"]
print( id(v2) ) # 输出:4517628816
v1 = (1,2)
print( id(v1) )
del v1 # 因元组的数量为2,所以会把这个对象缓存到free_list[2]的链表中。
v2 = ("甲壳虫","Alex") # 不会重新开辟内存,而是去free_list[2]对应的链表中拿到一个对象来使用。
print( id(v2) )
v1 = {"k1":123}
print( id(v1) ) # 输出:4515998128
del v1
v2 = {"name":"甲壳虫","age":18,"gender":"男"}
print( id(v2) ) # 输出:4515998128
参考资料:https://pythonav.com/wiki/detail/6/88/
标签:字符 target 利用 ati 版本 创建对象 问题 val 技术
原文地址:https://www.cnblogs.com/jiakecong/p/14448476.html