最新国产好看的视频,伊人天堂AV在线,国产Aaaaaa视频,蜜臀视频在线观看一区,人妻av色图,密臀久久久精品影片,青青视频免费观看毛片,久草在线观看视,国产三级精品色情在线

python多線程比單線程效率低的原因及其解決方案

 更新時(shí)間:2023年08月15日 08:51:52   作者:易爻64  
這篇文章主要介紹了python多線程比單線程效率低的原因及其解決方案,具有很好的參考價(jià)值,希望對(duì)大家有所幫助,如有錯(cuò)誤或未考慮完全的地方,望不吝賜教

python多線程比單線程效率低的原因

Python語言的標(biāo)準(zhǔn)實(shí)現(xiàn)叫作CPython,它分兩步來運(yùn)行Python程序

步驟1:解析源代碼文本,并將其編譯成字節(jié)碼(bytecode)

  • 字節(jié)碼是一種底層代碼,可以把程序表示成8位的指令
  • 從Python 3.6開始,這種底層代碼實(shí)際上已經(jīng)變成16位了

步驟2:CPython采用基于棧的解釋器來運(yùn)行字節(jié)碼。

  • 字節(jié)碼解釋器在執(zhí)行Python程序的過程中,必須確保相關(guān)的狀態(tài)不受干擾,
  • CPython會(huì)用一種叫作全局解釋器鎖(global interpreter lock,GIL)的機(jī)制來實(shí)現(xiàn)運(yùn)行的python程序的相關(guān)狀態(tài)不受干擾

GIL

GIL實(shí)際上就是一種互斥鎖(mutual-exclusion lock,mutex),用來防止CPython的狀態(tài)在搶占式的多線程環(huán)境(preemptive multithreading)之中受到干擾,因?yàn)樵谶@種環(huán)境下,一條線程有可能突然打斷另一條線程搶占程序的控制權(quán)。如果這種搶占行為來得不是時(shí)候,那么解釋器的狀態(tài)(例如為垃圾回收工作而設(shè)立的引用計(jì)數(shù)等)就會(huì)遭到破壞。

CPython要通過GIL阻止這樣的動(dòng)作,以確保它自身以及它的那些C擴(kuò)展模塊能夠正確地執(zhí)行每一條字節(jié)碼指令。

GIL會(huì)產(chǎn)生一個(gè)很不好的影響。在C++與Java這樣的語言里面,如果程序之中有多個(gè)線程能夠分頭執(zhí)行任務(wù),那么就可以把CPU的各個(gè)核心充分地利用起來。盡管Python也支持多線程,但這些線程受GIL約束,所以每次或許只能有一條線程向前推進(jìn),而無法實(shí)現(xiàn)多頭并進(jìn)。

所以,想通過多線程做并行計(jì)算或是給程序提速的開發(fā)者,恐怕要失望了。

  • 并發(fā) concurrency : 指計(jì)算機(jī)似乎能在同一時(shí)刻做許多不同的事情
  • 并行 parallelism : 指計(jì)算機(jī)確實(shí)能夠在同一時(shí)刻做許多不同的事情

多線程下的線程執(zhí)行

  • 獲取GIL
  • 執(zhí)行代碼直到sleep或者是 python虛擬機(jī)將其掛起。
  • 釋放 GIL

多線程效率低于單線程原因

如上我們可以知道,在 python中想要某個(gè)線程要執(zhí)行必須先拿到 GIL這把鎖,且 python只有一個(gè) GIL,拿到這個(gè) GIL才能進(jìn)入 CPU執(zhí)行, 在遇到 I/O操作時(shí)會(huì)釋放這把鎖。如果是純計(jì)算的程序,沒有 I/O 操作,解釋器會(huì)每隔 100次操作就釋放這把鎖,讓別的線程有機(jī)會(huì) 執(zhí)行(這個(gè)次數(shù)可以通sys.setcheckinterval來調(diào)整)。所以雖然 CPython 的線程庫直接封裝操作系統(tǒng)的原生線程,但 CPython 進(jìn)程做為一個(gè)整體,同一時(shí)間只會(huì)有一個(gè)獲得了 GIL 的線程在跑,其它的線程都處于等待狀態(tài)等著 GIL 的釋放。

而每次釋放 GIL鎖,線程進(jìn)行鎖競爭、切換線程,會(huì)消耗資源。并且由于 GIL鎖存在,python里一個(gè)進(jìn)程永遠(yuǎn)只能同時(shí)執(zhí)行一個(gè)線程 (拿到 GIL的線程才能執(zhí)行 ),這就是為什么在多核 CPU上, python的多線程效率并不高

多線程效率低于或高于單線程原因

相同的代碼,為何有時(shí)候多線程會(huì)比單線程慢,有時(shí)又會(huì)比單線程快? 這主要跟運(yùn)行的代碼有關(guān):

CPU密集型代碼(各種循環(huán)處理、計(jì)數(shù)等等 ),在這種情況下,由于計(jì)算工作多, ticks計(jì)數(shù)很快就會(huì)達(dá)到 100閾值,然后觸發(fā) GIL的釋放與再競爭 (多個(gè)線程來回切換當(dāng)然是需要消耗資源的),所以 python下的多線程遇到 CPU密集型代碼時(shí),單線程比多線程效率高。

IO密集型代碼 (文件處理、網(wǎng)絡(luò)爬蟲等 ),多線程能夠有效提升效率單線程下有 IO操作會(huì)進(jìn)行 IO等待,造成不必要的時(shí)間浪費(fèi)。開啟多線程能在線程 A等待時(shí),自動(dòng)切換到線程 B,可以不浪費(fèi) CPU的資源,從而能提升程序執(zhí)行效率 。進(jìn)行IO密集型的時(shí)候可以進(jìn)行分時(shí)切換 所有這個(gè)時(shí)候多線程快過單線程

如果python想充分利用多核 CPU,可以采用多進(jìn)程

每個(gè)進(jìn)程有各自獨(dú)立的 GIL,互不干擾,這樣就可以真正意義上的并行執(zhí)行。

在 python中,多進(jìn)程的執(zhí)行效率優(yōu)于多線程 (僅僅針對(duì)多核 CPU而言 )。所以在多核 CPU下,想做并行提升效率,比較通用的方法是使用多進(jìn)程,能夠有效提高執(zhí)行效率

代碼示例:

# 多線程
# 最后完成的線程的耗時(shí)
# [TIME MEASURE] execute function: gene_1000_field took 3840.604ms
@time_measure
def mult_thread(rows):
    # 總行數(shù)
    rows = rows
    # 線程數(shù)
    batch_size = 4
    cell = math.ceil(rows / batch_size)
    # 處理數(shù)據(jù)生成
    print('數(shù)據(jù)生成中,線程數(shù):' + str(batch_size))
    threads = []
    for i in range(batch_size):
        starts = i * cell
        ends = (i + 1) * cell
        file = f"my_data_{str(i)}.csv"
        # t = threading.Thread(target=gene_1000_field_test, args=(starts, ends, file))
        t = threading.Thread(target=gene_1000_field, args=(starts, ends, file))
        t.start()
        threads.append(t)
    # for t in threads:
    #     t.join()
# 多進(jìn)程
# [TIME MEASURE] execute function: gene_1000_field took 1094.776ms
# 執(zhí)行時(shí)間和單個(gè)線程的執(zhí)行時(shí)間差不多,目的達(dá)到
@time_measure
def mult_process(rows):
    # 總行數(shù)
    rows = rows
    # 線程數(shù)
    batch_size = 4
    cell = math.ceil(rows / batch_size)
    # 處理數(shù)據(jù)生成
    print('數(shù)據(jù)生成中,線程數(shù):' + str(batch_size))
    process = []
    for i in range(batch_size):
        starts = i * cell
        ends = (i + 1) * cell
        file = f"my_data_{str(i)}.csv"
        # p = Process(target=f, args=('bob',))
        # p.start()
        # p_lst.append(p)
        # t = threading.Thread(target=gene_1000_field_test, args=(starts, ends, file))
        p = Process(target=gene_1000_field, args=(starts, ends, file))
        p.start()
        process.append(p)

python中多線程與單線程的對(duì)比

# 做一個(gè)簡單的爬蟲:
import threading
import time
import functools
from urllib.request import urlopen
# 寫一個(gè)時(shí)間函數(shù)的裝飾器
def timeit(f):
    @functools.wraps(f)
    def wrapper(*args,**kwargs):
        start_time=time.time()
        res=f(*args,**kwargs)
        end_time=time.time()
        print("%s函數(shù)運(yùn)行時(shí)間:%.2f" % (f.__name__, end_time - start_time))
        return res
    return wrapper
def get_addr(ip):
    url="http://ip-api.com/json/%s"%(ip)
    urlobj=urlopen(url)
    # 服務(wù)端返回的頁面信息, 此處為字符串類型
    pagecontent=urlobj.read().decode('utf-8')
    # 2. 處理Json數(shù)據(jù)
    import json
    # 解碼: 將json數(shù)據(jù)格式解碼為python可以識(shí)別的對(duì)象;
    dict_data = json.loads(pagecontent)
    print("""
    ip : %s
    所在城市: %s
    所在國家: %s
    """ % (ip, dict_data['city'], dict_data['country']))
#不使用多線程
@timeit
def main1():
    ips = ['12.13.14.%s' % (i + 1) for i in range(10)]
    for ip in ips:
        get_addr(ip)
# 多線程的方法一
@timeit
def main2():
    ips=['12.13.14.%s'%(i+1) for i in range(10)]
    threads=[]
    for ip in ips:
        t=threading.Thread(target=get_addr,args=(ip,))
        threads.append(t)
        t.start()
    [thread.join() for thread in threads]
# 多線程的方法二
class MyThread(threading.Thread):
    def __init__(self, ip):
        super(MyThread, self).__init__()
        self.ip = ip
    def run(self):
        url = "http://ip-api.com/json/%s" % (self.ip)
        urlObj = urlopen(url)
        # 服務(wù)端返回的頁面信息, 此處為字符串類型
        pageContent = urlObj.read().decode('utf-8')
        # 2. 處理Json數(shù)據(jù)
        import json
        # 解碼: 將json數(shù)據(jù)格式解碼為python可以識(shí)別的對(duì)象;
        dict_data = json.loads(pageContent)
        print("""
                            %s
        所在城市: %s
        所在國家: %s
        """ % (self.ip, dict_data['city'], dict_data['country']))
@timeit
def main3():
    ips = ['12.13.14.%s' % (i + 1) for i in range(10)]
    threads = []
    for ip in ips:
        t = MyThread(ip)
        threads.append(t)
        t.start()
    [thread.join() for thread in threads]
if __name__ == '__main__':
    main1()
    main2()
    main3()

---->輸出:
# main1函數(shù)運(yùn)行時(shí)間:55.06
# main2函數(shù)運(yùn)行時(shí)間:5.64
# main3函數(shù)運(yùn)行時(shí)間:11.06

由次可以看出多線程確實(shí)速度快了很多,然而這只是適合I/O密集型,當(dāng)計(jì)算密集型中cpu一直在占用的時(shí)候,多線程反而更慢。

下面舉例

import threading
import time
def my_counter():
    i = 1
    for count in range(200000000):
        i = i + 2*count
    return True
# 采用單線程
@timeit
def main1():
    thread_array = {}
    for tid in range(2):
        t = threading.Thread(target=my_counter)
        t.start()
        t.join()
# 采用多線程
@timeit
def main2():
    thread_array = {}
    for tid in range(2):
        t = threading.Thread(target=my_counter)
        t.start()
        thread_array[tid] = t
    for i in range(2):
        thread_array[i].join()
if __name__ == '__main__':
    main1()
    main2()

----->輸出:
main1函數(shù)運(yùn)行時(shí)間:27.57
main2函數(shù)運(yùn)行時(shí)間:28.19

這個(gè)時(shí)候就能體現(xiàn)出來多線程適應(yīng)的場景

總結(jié)

以上為個(gè)人經(jīng)驗(yàn),希望能給大家一個(gè)參考,也希望大家多多支持腳本之家。

相關(guān)文章

  • python用pdfplumber提取pdf表格數(shù)據(jù)并保存到excel文件中

    python用pdfplumber提取pdf表格數(shù)據(jù)并保存到excel文件中

    在實(shí)際研究中我們經(jīng)常需要獲取大量數(shù)據(jù),而這些數(shù)據(jù)很大一部分以pdf表格的形式呈現(xiàn),如公司年報(bào)、發(fā)行上市公告等,下面這篇文章主要給大家介紹了關(guān)于利用python提取pdf表格數(shù)據(jù)并保存到excel文件中的相關(guān)資料,需要的朋友可以參考下
    2022-07-07
  • dataframe設(shè)置兩個(gè)條件取值的實(shí)例

    dataframe設(shè)置兩個(gè)條件取值的實(shí)例

    下面小編就為大家分享一篇dataframe設(shè)置兩個(gè)條件取值的實(shí)例,具有很好的參考價(jià)值,希望對(duì)大家有所幫助。一起跟隨小編過來看看吧
    2018-04-04
  • numpy找出array中的最大值,最小值實(shí)例

    numpy找出array中的最大值,最小值實(shí)例

    下面小編就為大家分享一篇numpy找出array中的最大值,最小值實(shí)例,具有很好的參考價(jià)值,希望對(duì)大家有所幫助。一起跟隨小編過來看看吧
    2018-04-04
  • Python實(shí)現(xiàn)批量向PDF文件添加中文水印

    Python實(shí)現(xiàn)批量向PDF文件添加中文水印

    本文將通過設(shè)置批量PDF文件所在的路徑及需要添加的水印名稱,從而實(shí)現(xiàn)批量添加PDF水印的效果。感興趣的小伙伴可以跟隨小編一起動(dòng)手試一試
    2022-02-02
  • 學(xué)習(xí)Python需要哪些工具

    學(xué)習(xí)Python需要哪些工具

    這篇文章主要介紹了學(xué)習(xí)Python需要哪些工具,幫助大家開始學(xué)習(xí)python編程,感興趣的朋友可以了解下
    2020-09-09
  • Python實(shí)現(xiàn)投影法分割圖像示例(一)

    Python實(shí)現(xiàn)投影法分割圖像示例(一)

    今天小編就為大家分享一篇Python實(shí)現(xiàn)投影法分割圖像示例,具有很好的參考價(jià)值,希望對(duì)大家有所幫助。一起跟隨小編過來看看吧
    2020-01-01
  • Python Selenium 之關(guān)閉窗口close與quit的方法

    Python Selenium 之關(guān)閉窗口close與quit的方法

    今天小編就為大家分享一篇Python Selenium 之關(guān)閉窗口close與quit的方法,具有很好的參考價(jià)值,希望對(duì)大家有所幫助。一起跟隨小編過來看看吧
    2019-02-02
  • 利用Python如何實(shí)現(xiàn)一個(gè)小說網(wǎng)站雛形

    利用Python如何實(shí)現(xiàn)一個(gè)小說網(wǎng)站雛形

    這篇文章主要給大家介紹了關(guān)于利用Python如何實(shí)現(xiàn)一個(gè)小說網(wǎng)站雛形的相關(guān)資料,文中通過示例代碼介紹的非常詳細(xì),對(duì)大家學(xué)習(xí)或者使用python具有一定的參考學(xué)習(xí)價(jià)值,需要的朋友們下面隨著小編來一起學(xué)習(xí)學(xué)習(xí)吧
    2018-11-11
  • 使用Python實(shí)現(xiàn)Excel文件中的查找并替換功能

    使用Python實(shí)現(xiàn)Excel文件中的查找并替換功能

    在處理大型電子表格時(shí),查找和替換功能是一項(xiàng)極其重要的工具,本文將詳細(xì)介紹如何使用 Spire.XLS for Python 庫在 Excel 文件中執(zhí)行查找和替換操作,希望可以幫助大家構(gòu)建完整的 Excel 數(shù)據(jù)處理解決方案
    2026-05-05
  • python CMD命令行傳參實(shí)現(xiàn)方法(argparse、click、fire)

    python CMD命令行傳參實(shí)現(xiàn)方法(argparse、click、fire)

    這篇文章主要介紹了python CMD命令行傳參實(shí)現(xiàn)方法(argparse、click、fire),本文通過實(shí)例代碼給大家介紹的非常詳細(xì),感興趣的朋友跟隨小編一起看看吧
    2024-07-07

最新評(píng)論

镇原县| 平原县| 卢湾区| 桐乡市| 溧阳市| 武功县| 正镶白旗| 阳信县| 迁安市| 德化县| 乐亭县| 修武县| 靖西县| 东明县| 三亚市| 桐梓县| 玉田县| 肥东县| 太和县| 建昌县| 嵊州市| 清涧县| 诏安县| 科技| 宁安市| 灵璧县| 孟连| 普兰店市| 黄骅市| 北辰区| 六枝特区| 会泽县| 龙门县| 团风县| 若尔盖县| 万荣县| 南乐县| 从江县| 黔东| 甘德县| 西乌|