優(yōu)化Python代碼使其加快作用域內(nèi)的查找
我將示范微優(yōu)化(micro optimization)如何提升python代碼5%的執(zhí)行速度。5%!同時也會觸怒任何維護你代碼的人。
但實際上,這篇文章只是解釋一下你偶爾會在標準庫或者其他人的代碼中碰到的代碼。我們先看一個標準庫的例子,collections.OrderedDict類:
def __setitem__(self, key, value, dict_setitem=dict.__setitem__): if key not in self: root = self.__root last = root[0] last[1] = root[0] = self.__map[key] = [last, root, key] return dict_setitem(self, key, value)
注意最后一個參數(shù):dict_setitem=dict.__setitem__。如果你仔細想就會感覺有道理。將值關(guān)聯(lián)到鍵上,你只需要給__setitem__傳遞三個參數(shù):要設(shè)置的鍵,與鍵關(guān)聯(lián)的值,傳遞給內(nèi)建dict類的__setitem__類方法。等會,好吧,也許最后一個參數(shù)沒什么意義。
作用域查詢
為了理解到底發(fā)生了什么,我們看下作用域。從一個簡單問題開始:在一個python函數(shù)中,如果遇到了一個名為open的東西,python如何找出open的值?
# <GLOBAL: bunch of code here>
def myfunc():
# <LOCAL: bunch of code here>
with open('foo.txt', 'w') as f:
pass
簡單作答:如果不知道GLOBAL和LOCAL的內(nèi)容,你不可能確定open的值。概念上,python查找名稱時會檢查3個命名空間(簡單起見忽略嵌套作用域):
局部命名空間
全局命名空間
內(nèi)建命名空間
所以在myfunc函數(shù)中,如果嘗試查找open的值時,我們首先會檢查本地命名空間,然后是全局命名空間,接著內(nèi)建命名空間。如果在這3個命名空間中都找不到open的定義,就會引發(fā)NameError異常。
作用域查找的實現(xiàn)
上面的查找過程只是概念上的。這個查找過程的實現(xiàn)給予了我們探索實現(xiàn)的空間。
def foo(): a = 1 return a def bar(): return a def baz(a=1): return a
我們看下每個函數(shù)的字節(jié)碼:
>>> import dis
>>> dis.dis(foo)
2 0 LOAD_CONST 1 (1)
3 STORE_FAST 0 (a)
3 6 LOAD_FAST 0 (a)
9 RETURN_VALUE
>>> dis.dis(bar)
2 0 LOAD_GLOBAL 0 (a)
3 RETURN_VALUE
>>> dis.dis(baz)
2 0 LOAD_FAST 0 (a)
3 RETURN_VALUE
注意foo和bar的區(qū)別。我們立即就可以看到,在字節(jié)碼層面,python已經(jīng)判斷了什么是局部變量、什么不是,因為foo使用LOAD_FAST,而bar使用LOAD_GLOBAL。
我們不會具體闡述python的編譯器如何知道何時生成何種字節(jié)碼(也許那是另一篇文章的范疇了),但足以理解,python在執(zhí)行函數(shù)時已經(jīng)知道進行何種類型的查找。
另一個容易混淆的是,LOAD_GLOBAL既可以用于全局,也可以用于內(nèi)建命名空間的查找。忽略嵌套作用域的問題,你可以認為這是“非局部的”。對應(yīng)的C代碼大概是[1]:
case LOAD_GLOBAL:
v = PyObject_GetItem(f->f_globals, name);
if (v == NULL) {
v = PyObject_GetItem(f->f_builtins, name);
if (v == NULL) {
if (PyErr_ExceptionMatches(PyExc_KeyError))
format_exc_check_arg(
PyExc_NameError,
NAME_ERROR_MSG, name);
goto error;
}
}
PUSH(v);
即使你從來沒有看過CPython的C代碼,上面的代碼已經(jīng)相當(dāng)直白了。首先,檢查我們查找的鍵名是否在f->f_globals(全局字典)中,然后檢查名稱是否在f->f_builtins(內(nèi)建字典)中,最后,如果上面兩個位置都沒找到,就會拋出NameError異常。
將常量綁定到局部作用域
現(xiàn)在我們再看最開始的代碼例子,就會理解最后一個參數(shù)其實是將一個函數(shù)綁定到局部作用域中的一個函數(shù)上。具體是通過將dict.__setitem__賦值為參數(shù)的默認值。這里還有另一個例子:
def not_list_or_dict(value): return not (isinstance(value, dict) or isinstance(value, list)) def not_list_or_dict(value, _isinstance=isinstance, _dict=dict, _list=list): return not (_isinstance(value, _dict) or _isinstance(value, _list))
這里我們做同樣的事情,把本來將會在內(nèi)建命名空間中的對象綁定到局部作用域中去。因此,python將會使用LOCAL_FAST而不是LOAD_GLOBAL(全局查找)。那么這到底有多快呢?我們做個簡單的測試:
$ python -m timeit -s 'def not_list_or_dict(value): return not (isinstance(value, dict) or isinstance(value, list))' 'not_list_or_dict(50)' 1000000 loops, best of 3: 0.48 usec per loop $ python -m timeit -s 'def not_list_or_dict(value, _isinstance=isinstance, _dict=dict, _list=list): return not (_isinstance(value, _dict) or _isinstance(value, _list))' 'not_list_or_dict(50)' 1000000 loops, best of 3: 0.423 usec per loop
換句話說,大概有11.9%的提升 [2]。比我在文章開始處承諾的5%還多!
還有更多內(nèi)涵
可以合理地認為,速度提升在于LOAD_FAST讀取局部作用域,而LOAD_GLOBAL在檢查內(nèi)建作用域之前會先首先檢查全局作用域。上面那個示例函數(shù)中,isinstance、dict、list都位于內(nèi)建命名空間。
但是,還有更多。我們不僅可以使用LOAD_FAST跳過多余的查找,它也是一種不同類型的查找。
上面C代碼片段給出了LOAD_GLOBAL的代碼,下面是LOAD_FAST的:
case LOAD_FAST:
PyObject *value = fastlocal[oparg];
if (value == NULL) {
format_exc_check_arg(PyExc_UnboundLocalError,
UNBOUNDLOCAL_ERROR_MSG,
PyTuple_GetItem(co->co_varnames, oparg));
goto error;
}
Py_INCREF(value);
PUSH(value);
FAST_DISPATCH()
我們通過索引一個數(shù)組獲取局部值。雖然沒有直接出現(xiàn),但是oparg只是那個數(shù)組的一個索引。
現(xiàn)在聽起來才合理。我們第一個版本的not_list_or_dict要進行4個查詢,每個名稱都位于內(nèi)建命名空間,它們只有在查找全局命名空間之后才會查詢。這就是8個字典鍵的查詢操作了。相比之下,not_list_or_dict的第二版中,直接索引C數(shù)組4次,底層全部使用LOAD_FAST。這就是為什么局部查詢更快的原因。
總結(jié)
現(xiàn)在當(dāng)下次你在其他人代碼中看到這種例子,就會明白了。
最后,除非確實需要,請不要在具體應(yīng)用中進行這類優(yōu)化。而且大部分時間你都沒必要做。但是如果時候到了,你需要擠出最后一點性能,就需要搞懂這點。
腳注
[1]注意,為了更易讀,上面的代碼中我去掉了一些性能優(yōu)化。真正的代碼稍微有點復(fù)雜。
[2]示例函數(shù)事實上沒有做什么有價值的東西,也沒進行IO操作,大部分是受python VM循環(huán)的限制。
相關(guān)文章
python 解決selenium 中的 .clear()方法失效問題
這篇文章主要介紹了python 解決selenium 中的 .clear()方法失效問題,具有很好的參考價值,希望對大家有所幫助。一起跟隨小編過來看看吧2020-09-09
使用Python一鍵提取PDF中的表格到Excel的方法詳解
從PDF文件獲取表格中的數(shù)據(jù),也是日常辦公容易涉及到的一項工作,一個一個復(fù)制吧,效率確實太低了,用Python從PDF文檔中提取表格數(shù)據(jù),并寫入Excel文件,灰?;页8咝?本文就給大家介紹一下如何使用Python一鍵提取PDF中的表格到Excel,需要的朋友可以參考下2023-08-08
利用Python批量導(dǎo)出mysql數(shù)據(jù)庫表結(jié)構(gòu)的操作實例
這篇文章主要給大家介紹了關(guān)于利用Python批量導(dǎo)出mysql數(shù)據(jù)庫表結(jié)構(gòu)的相關(guān)資料,需要的朋友可以參考下2022-08-08
解決90%的常見問題的8個python NumPy函數(shù)
這篇文章主要為大家介紹了解決90%的常見問題的8個python NumPy函數(shù)示例詳解,有需要的朋友可以借鑒參考下,希望能夠有所幫助,祝大家多多進步,早日升職加薪2023-06-06
Python的Django框架中的select_related函數(shù)對QuerySet 查詢的優(yōu)化
這篇文章主要介紹了Python的Django框架中的select_related函數(shù)對QuerySet查詢的優(yōu)化,以減少數(shù)據(jù)庫的查詢次數(shù)為目的,需要的朋友可以參考下2015-04-04
使用python進行nc轉(zhuǎn)tif的3種情況解決
在進行氣候分析時,很多人都會用到ERA5數(shù)據(jù),下面這篇文章主要給大家介紹了關(guān)于如何使用python進行nc轉(zhuǎn)tif的3種情況的解決方法,文中通過實例代碼介紹的非常詳細,需要的朋友可以參考下2022-03-03

