理解Python垃圾回收機(jī)制
一.垃圾回收機(jī)制
Python中的垃圾回收是以引用計(jì)數(shù)為主,分代收集為輔。引用計(jì)數(shù)的缺陷是循環(huán)引用的問題。
在Python中,如果一個(gè)對象的引用數(shù)為0,Python虛擬機(jī)就會回收這個(gè)對象的內(nèi)存。
#encoding=utf-8
__author__ = 'kevinlu1010@qq.com'
class ClassA():
def __init__(self):
print 'object born,id:%s'%str(hex(id(self)))
def __del__(self):
print 'object del,id:%s'%str(hex(id(self)))
def f1():
while True:
c1=ClassA()
del c1
執(zhí)行f1()會循環(huán)輸出這樣的結(jié)果,而且進(jìn)程占用的內(nèi)存基本不會變動(dòng)
object born,id:0x237cf58 object del,id:0x237cf58
c1=ClassA()會創(chuàng)建一個(gè)對象,放在0x237cf58內(nèi)存中,c1變量指向這個(gè)內(nèi)存,這時(shí)候這個(gè)內(nèi)存的引用計(jì)數(shù)是1
del c1后,c1變量不再指向0x237cf58內(nèi)存,所以這塊內(nèi)存的引用計(jì)數(shù)減一,等于0,所以就銷毀了這個(gè)對象,然后釋放內(nèi)存。
1、導(dǎo)致引用計(jì)數(shù)+1的情況
- 對象被創(chuàng)建,例如a=23
- 對象被引用,例如b=a
- 對象被作為參數(shù),傳入到一個(gè)函數(shù)中,例如func(a)
- 對象作為一個(gè)元素,存儲在容器中,例如list1=[a,a]
2、導(dǎo)致引用計(jì)數(shù)-1的情況
- 對象的別名被顯式銷毀,例如del a
- 對象的別名被賦予新的對象,例如a=24
- 一個(gè)對象離開它的作用域,例如f函數(shù)執(zhí)行完畢時(shí),func函數(shù)中的局部變量(全局變量不會)
- 對象所在的容器被銷毀,或從容器中刪除對象
demo
def func(c,d): print 'in func function', sys.getrefcount(c) - 1 print 'init', sys.getrefcount(11) - 1 a = 11 print 'after a=11', sys.getrefcount(11) - 1 b = a print 'after b=1', sys.getrefcount(11) - 1 func(11) print 'after func(a)', sys.getrefcount(11) - 1 list1 = [a, 12, 14] print 'after list1=[a,12,14]', sys.getrefcount(11) - 1 a=12 print 'after a=12', sys.getrefcount(11) - 1 del a print 'after del a', sys.getrefcount(11) - 1 del b print 'after del b', sys.getrefcount(11) - 1 # list1.pop(0) # print 'after pop list1',sys.getrefcount(11)-1 del list1 print 'after del list1', sys.getrefcount(11) - 1
輸出
init 24 after a=11 25 after b=1 26 in func function 28 after func(a) 26 after list1=[a,12,14] 27 after a=12 26 after del a 26 after del b 25 after del list1 24
問題:為什么調(diào)用函數(shù)會令引用計(jì)數(shù)+2
3、查看一個(gè)對象的引用計(jì)數(shù)
sys.getrefcount(a)可以查看a對象的引用計(jì)數(shù),但是比正常計(jì)數(shù)大1,因?yàn)檎{(diào)用函數(shù)的時(shí)候傳入a,這會讓a的引用計(jì)數(shù)+1
二.循環(huán)引用導(dǎo)致內(nèi)存泄露
def f2():
while True:
c1=ClassA()
c2=ClassA()
c1.t=c2
c2.t=c1
del c1
del c2
執(zhí)行f2(),進(jìn)程占用的內(nèi)存會不斷增大。
object born,id:0x237cf30 object born,id:0x237cf58
創(chuàng)建了c1,c2后,0x237cf30(c1對應(yīng)的內(nèi)存,記為內(nèi)存1),0x237cf58(c2對應(yīng)的內(nèi)存,記為內(nèi)存2)這兩塊內(nèi)存的引用計(jì)數(shù)都是1,執(zhí)行c1.t=c2和c2.t=c1后,這兩塊內(nèi)存的引用計(jì)數(shù)變成2.
在del c1后,內(nèi)存1的對象的引用計(jì)數(shù)變?yōu)?,由于不是為0,所以內(nèi)存1的對象不會被銷毀,所以內(nèi)存2的對象的引用數(shù)依然是2,在del c2后,同理,內(nèi)存1的對象,內(nèi)存2的對象的引用數(shù)都是1。
雖然它們兩個(gè)的對象都是可以被銷毀的,但是由于循環(huán)引用,導(dǎo)致垃圾回收器都不會回收它們,所以就會導(dǎo)致內(nèi)存泄露。
三.垃圾回收
deff3(): # print gc.collect() c1=ClassA() c2=ClassA() c1.t=c2 c2.t=c1 del c1 del c2 print gc.garbage print gc.collect() #顯式執(zhí)行垃圾回收 print gc.garbage time.sleep(10) if __name__ == '__main__': gc.set_debug(gc.DEBUG_LEAK) #設(shè)置gc模塊的日志 f3()
輸出:
gc: uncollectable <ClassA instance at 0230E918> gc: uncollectable <ClassA instance at 0230E940> gc: uncollectable <dict 0230B810> gc: uncollectable <dict 02301ED0> object born,id:0x230e918 object born,id:0x230e940 4
- 垃圾回收后的對象會放在gc.garbage列表里面
- gc.collect()會返回不可達(dá)的對象數(shù)目,4等于兩個(gè)對象以及它們對應(yīng)的dict
- 有三種情況會觸發(fā)垃圾回收:
1.調(diào)用gc.collect(),
2.當(dāng)gc模塊的計(jì)數(shù)器達(dá)到閥值的時(shí)候。
3.程序退出的時(shí)候
四.gc模塊常用功能解析
gc模塊提供一個(gè)接口給開發(fā)者設(shè)置垃圾回收的選項(xiàng)。上面說到,采用引用計(jì)數(shù)的方法管理內(nèi)存的一個(gè)缺陷是循環(huán)引用,而gc模塊的一個(gè)主要功能就是解決循環(huán)引用的問題。
常用函數(shù):
1、gc.set_debug(flags)
設(shè)置gc的debug日志,一般設(shè)置為gc.DEBUG_LEAK
2、gc.collect([generation])
顯式進(jìn)行垃圾回收,可以輸入?yún)?shù),0代表只檢查第一代的對象,1代表檢查一,二代的對象,2代表檢查一,二,三代的對象,如果不傳參數(shù),執(zhí)行一個(gè)full collection,也就是等于傳2。
返回不可達(dá)(unreachable objects)對象的數(shù)目
3、gc.set_threshold(threshold0[, threshold1[, threshold2])
設(shè)置自動(dòng)執(zhí)行垃圾回收的頻率。
4、gc.get_count()
獲取當(dāng)前自動(dòng)執(zhí)行垃圾回收的計(jì)數(shù)器,返回一個(gè)長度為3的列表
5、gc模塊的自動(dòng)垃圾回收機(jī)制
必須要import gc模塊,并且is_enable()=True才會啟動(dòng)自動(dòng)垃圾回收。
這個(gè)機(jī)制的主要作用就是發(fā)現(xiàn)并處理不可達(dá)的垃圾對象。
垃圾回收=垃圾檢查+垃圾回收
在Python中,采用分代收集的方法。把對象分為三代,一開始,對象在創(chuàng)建的時(shí)候,放在一代中,如果在一次一代的垃圾檢查中,改對象存活下來,就會被放到二代中,同理在一次二代的垃圾檢查中,該對象存活下來,就會被放到三代中。
gc模塊里面會有一個(gè)長度為3的列表的計(jì)數(shù)器,可以通過gc.get_count()獲取。
例如(488,3,0),其中488是指距離上一次一代垃圾檢查,Python分配內(nèi)存的數(shù)目減去釋放內(nèi)存的數(shù)目,注意是內(nèi)存分配,而不是引用計(jì)數(shù)的增加。例如:
print gc.get_count() # (590, 8, 0) a = ClassA() print gc.get_count() # (591, 8, 0) del a print gc.get_count() # (590, 8, 0)
3是指距離上一次二代垃圾檢查,一代垃圾檢查的次數(shù),同理,0是指距離上一次三代垃圾檢查,二代垃圾檢查的次數(shù)。
gc??煊幸粋€(gè)自動(dòng)垃圾回收的閥值,即通過gc.get_threshold函數(shù)獲取到的長度為3的元組,例如(700,10,10)
每一次計(jì)數(shù)器的增加,gc模塊就會檢查增加后的計(jì)數(shù)是否達(dá)到閥值的數(shù)目,如果是,就會執(zhí)行對應(yīng)的代數(shù)的垃圾檢查,然后重置計(jì)數(shù)器
例如,假設(shè)閥值是(700,10,10):
- 當(dāng)計(jì)數(shù)器從(699,3,0)增加到(700,3,0),gc模塊就會執(zhí)行g(shù)c.collect(0),即檢查一代對象的垃圾,并重置計(jì)數(shù)器為(0,4,0)
- 當(dāng)計(jì)數(shù)器從(699,9,0)增加到(700,9,0),gc模塊就會執(zhí)行g(shù)c.collect(1),即檢查一、二代對象的垃圾,并重置計(jì)數(shù)器為(0,0,1)
- 當(dāng)計(jì)數(shù)器從(699,9,9)增加到(700,9,9),gc模塊就會執(zhí)行g(shù)c.collect(2),即檢查一、二、三代對象的垃圾,并重置計(jì)數(shù)器為(0,0,0)
其他
如果循環(huán)引用中,兩個(gè)對象都定義了__del__方法,gc模塊不會銷毀這些不可達(dá)對象,因?yàn)間c模塊不知道應(yīng)該先調(diào)用哪個(gè)對象的__del__方法,所以為了安全起見,gc模塊會把對象放到gc.garbage中,但是不會銷毀對象。
五.應(yīng)用
- 項(xiàng)目中避免循環(huán)引用
- 引入gc模塊,啟動(dòng)gc模塊的自動(dòng)清理循環(huán)引用的對象機(jī)制
- 由于分代收集,所以把需要長期使用的變量集中管理,并盡快移到二代以后,減少GC檢查時(shí)的消耗
- gc模塊唯一處理不了的是循環(huán)引用的類都有__del__方法,所以項(xiàng)目中要避免定義__del__方法,如果一定要使用該方法,同時(shí)導(dǎo)致了循環(huán)引用,需要代碼顯式調(diào)用gc.garbage里面的對象的__del__來打破僵局
以上就是本文的全部內(nèi)容。希望對大家的學(xué)習(xí)有所幫助。
相關(guān)文章
python爬蟲學(xué)習(xí)筆記之pyquery模塊基本用法詳解
這篇文章主要介紹了python爬蟲學(xué)習(xí)筆記之pyquery模塊基本用法,結(jié)合實(shí)例形式詳細(xì)分析了python爬蟲pyquery模塊基本功能、用法及操作注意事項(xiàng),需要的朋友可以參考下2020-04-04
Python中數(shù)字(Number)數(shù)據(jù)類型常用操作
本文主要介紹了Python中數(shù)字(Number)數(shù)據(jù)類型常用操作,文中通過示例代碼介紹的非常詳細(xì),對大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值,需要的朋友們下面隨著小編來一起學(xué)習(xí)學(xué)習(xí)吧2023-02-02
修改默認(rèn)的pip版本為對應(yīng)python2.7的方法
今天小編就為大家分享一篇修改默認(rèn)的pip版本為對應(yīng)python2.7的方法,具有很好的參考價(jià)值,希望對大家有所幫助。一起跟隨小編過來看看吧2018-11-11
python獲取服務(wù)器響應(yīng)cookie的實(shí)例
今天小編就為大家分享一篇python獲取服務(wù)器響應(yīng)cookie的實(shí)例,具有很好的參考價(jià)值,希望對大家有所幫助。一起跟隨小編過來看看吧2018-12-12
使用Python實(shí)現(xiàn)圖像LBP特征提取的操作方法
LBP特征叫做局部二值模式,常用于紋理特征提取,并在紋理分類中具有較強(qiáng)的區(qū)分能力,本文給大家介紹了如何使用Python實(shí)現(xiàn)圖像LBP特征提取的操作方法,需要的朋友可以參考下2025-04-04
python爬蟲 urllib模塊發(fā)起post請求過程解析
這篇文章主要介紹了python爬蟲 urllib模塊發(fā)起post請求過程解析,文中通過示例代碼介紹的非常詳細(xì),對大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值,需要的朋友可以參考下2019-08-08

