Profile 和 cProfile

在 Python 標(biāo)準(zhǔn)庫(kù)里面有兩個(gè)模塊可以用來(lái)做性能測(cè)試。

1. 一個(gè)是 Profile，它是一個(gè)純 Python 的實(shí)現(xiàn)，所以會(huì)慢一些，如果你需要對(duì)模塊進(jìn)行拓展，那么這個(gè)模塊比較合適。

2. 第二個(gè)是 cProfile，從名字就可以看出這是一個(gè) C 語(yǔ)言的實(shí)現(xiàn)版，官方推薦在大多數(shù)情況下使用。
這兩者的接口和數(shù)據(jù)的輸出格式是完全一樣的，你可以在這兩者之間自由的切換，所以下面我們僅以 cProfile 為例進(jìn)行介紹。

使用 cProfile 進(jìn)行性能測(cè)試

在 cProfile 中，進(jìn)行性能測(cè)試十分簡(jiǎn)單，只需調(diào)用 run 方法，并將需要測(cè)試的函數(shù)及參數(shù)傳遞給它即可，下面我們對(duì)fib(n) 進(jìn)行性能測(cè)試。

import cProfile

def fib(n):
 if n == 0:
 return 0
 if n == 1:
 return 1
 return fib(n-1) + fib(n-2)

if __name__ == '__main__':
 cProfile.run('fib(30)')

性能測(cè)試的結(jié)果如下圖

可以看到一共進(jìn)行了 2692539 次函數(shù)調(diào)用，共耗時(shí) 0.815 秒。下面每一行對(duì)應(yīng)于一個(gè)函數(shù)的調(diào)用情況，其中：

1. ncalls, 函數(shù)總共調(diào)用次數(shù)；
2. tottime, 這個(gè)函數(shù)調(diào)用總共花費(fèi)時(shí)間；
3. percall, 每個(gè)調(diào)用的平均花費(fèi)時(shí)間；
4. cumtime, 總共累計(jì)花費(fèi)時(shí)間；
5. percall, 每個(gè)調(diào)用的平均累計(jì)時(shí)間；
6. filename:lineno(function), 對(duì)應(yīng)函數(shù)信息。

所以從圖中可以明顯看到幾乎的耗時(shí)都在fib上，而且函數(shù)調(diào)用數(shù)過(guò)多，這主要是因?yàn)楹瘮?shù)是遞歸調(diào)用的，并且會(huì)產(chǎn)生很多冗余分支，所以程序需要進(jìn)行優(yōu)化。有兩種方法進(jìn)行改進(jìn)，一是緩存fib(n)的信息，不需要每次都進(jìn)行計(jì)算；二是將程序改為迭代式。

而對(duì)函數(shù)值進(jìn)行緩存在 Python 3 里有一個(gè)簡(jiǎn)單的裝飾器叫做lru_cache，可以自動(dòng)的幫你緩存函數(shù)的值，而不需要自己手動(dòng)存儲(chǔ)。

import functools

@functools.lru_cache(maxsize=None)
def fib(n):
 if n == 0:
 return 0
 if n == 1:
 return 1
 return fib(n-1) + fib(n-2)

運(yùn)行結(jié)果如下：

可以看到，fib 函數(shù)只調(diào)用了 31 次，幾乎所有額外的調(diào)用都命中了緩存，遠(yuǎn)遠(yuǎn)小于前面的調(diào)用次數(shù)，運(yùn)行時(shí)間也得到了相當(dāng)明顯的提升。同時(shí)使用下面的迭代版程序也運(yùn)行得非?？?，這里就不再展開(kāi)。

def fib(n):
 prev, cur = 0, 1
 if n == 0:
 return prev
 if n == 1:
 return cur
 count = 1
 while count < n:
 count += 1
 prev, cur = cur, prev + cur
 return cur

除了前面提到的 run 方法外，還有一個(gè)叫做 runctx 的方法，允許提供一些上下文參數(shù)。例如前面的 cProfile.run('fib(30)') 可以改為cProfile.runctx('fib', globals(), {'n':30})最后的運(yùn)行結(jié)果是相同的。

最后，除了直接打印到命令行的方式，run 和 runctx 可以通過(guò)第二個(gè)參數(shù)傳遞文件名的方式將輸出結(jié)果寫(xiě)入文件。

使用 pstats 對(duì)顯示進(jìn)行控制

cProfile 雖然可以對(duì)程序進(jìn)行簡(jiǎn)單的性能測(cè)試，但是當(dāng)程序過(guò)大，調(diào)用函數(shù)很多的時(shí)候，就需要一些對(duì)測(cè)試結(jié)果進(jìn)行過(guò)濾和排序的工具了，而 pstats 就是這樣的一個(gè)工具。

# fib_profile.py
import cProfile
import pstats

for i in range(5):
 cProfile.run('fib(1000)', 'fib_profile_{}'.format(i))

stats = pstats.Stats('fib_profile_0')
for i in range(1, 5):
 stats.add('fib_profile_{}'.format(i))
stats.strip_dirs()
stats.sort_stats('cumulative')
stats.print_stats('fib')

上面的程序首先寫(xiě)入了多個(gè)測(cè)試結(jié)果，然后初始化了 stats，可以通過(guò) stats 的 add 方法添加新的文件，pstats 會(huì)自動(dòng)的將結(jié)果聚合起來(lái)；然后 strip_dirs 將會(huì)移除文件名前面的路徑，只保留文件名；sort_stats 是對(duì)輸出結(jié)果進(jìn)行排序，也就是在前面所說(shuō)的那幾行里進(jìn)行選擇（具體的可參閱官方文檔）；最后的 print_stats 對(duì)結(jié)果進(jìn)行輸出，在這面可以對(duì)行進(jìn)行過(guò)濾，比如上面的程序就只輸出了包含 fib 的行；實(shí)際輸出結(jié)果如下。

以上就是本文的全部?jī)?nèi)容，希望對(duì)大家的學(xué)習(xí)有所幫助，也希望大家多多支持腳本之家。

最新評(píng)論