最新国产好看的视频,伊人天堂AV在线,国产Aaaaaa视频,蜜臀视频在线观看一区,人妻av色图,密臀久久久精品影片,青青视频免费观看毛片,久草在线观看视,国产三级精品色情在线

python讀取大文件越來越慢的原因與解決

 更新時間:2019年08月08日 11:19:00   作者:hank-yan  
這篇文章主要給大家介紹了關于python讀取大文件越來越慢的原因與解決方法,文中通過示例代碼介紹的非常詳細,對大家學習或者使用Python具有一定的參考學習價值,需要的朋友們下面來一起學習學習吧

背景:

今天同事寫代碼,用python讀取一個四五百兆的文件,然后做一串邏輯上很直觀的處理。結果處理了一天還沒有出來結果。問題出在哪里呢?

解決:

1. 同事打印了在不同時間點的時間,在需要的地方插入如下代碼:

print time.strftime('%Y-%m-%d %H:%M:%S',time.localtime(time.time())) 

發(fā)現一個規(guī)律,執(zhí)行速度到后面時間越來越長,也就是處理速度越來越慢。

2. 為什么會越來越慢呢?

1)可能原因1,GC 的問題,有篇文章里面寫,python list append 的時候會越來越慢,解決方案是禁止GC:

使用 gc.disable()和gc.enable()

 2)改完上面,仍然不行,然后看到一篇文章里面寫,可能是因為 git 導致的,因為append 的時候 git 會不斷同步,會出問題,于是刪除 .git 文件夾,結果還是不行。

3)繼續(xù)查詢,發(fā)下一個及其有可能出問題的地方。dict 的 in dict.key(),判斷 key 是否在 dict 里面,這個的效率是非常低的??吹揭黄恼卤容^了效率:

          ① 使用  in dict.keys() 效率:

          ② 使用 has_key()  效率:


發(fā)現 has_key() 效率比較穩(wěn)定。于是修改,問題解決。

后話:

最初的時候,的確是使用 has_key(), 結果后面上傳代碼的時候,公司代碼檢查過不了,提示不能使用這個函數,只能改成 in dict.key() 這種方式,為什么公司不讓這么傳呢?經過一番百度,發(fā)現原因所在:在 python3 中,直接將 has_key() 函數給刪除了,所以禁止使用。那禁止了該怎么辦呢?原來 python 中 in 很智能,能自動判斷 key 是否在字典中存在。所以最正規(guī)的做法不是 has_key(),   更不是 in dict.keys(), 而是 in dict.  判斷 key 在 map 中,千萬別用 in dict.keys() !??!

附錄:

in、 in dict.keys()、 has_key() 方法實戰(zhàn)對比:

>>> a = {'name':"tom", 'age':10, 'Tel':110}
>>> a
{'age': 10, 'Tel': 110, 'name': 'tom'}
>>> print 'age' in a
True
>>> print 'age' in a.keys()
True
>>>
>>> print a.has_key("age")
True

總結

以上就是這篇文章的全部內容了,希望本文的內容對大家的學習或者工作具有一定的參考學習價值,謝謝大家對腳本之家的支持。

參考資料:

https://www.douban.com/group/topic/44472300/

http://www.it1352.com/225441.html

http://m.fzitv.net/article/145424.htm

相關文章

  • 淺談Django學習migrate和makemigrations的差別

    淺談Django學習migrate和makemigrations的差別

    這篇文章主要介紹了淺談Django學習migrate和makemigrations的差別,具有一定借鑒價值,需要的朋友可以參考下
    2018-01-01
  • Python用5行代碼實現批量摳圖的示例代碼

    Python用5行代碼實現批量摳圖的示例代碼

    這篇文章主要介紹了Python用5行代碼實現批量摳圖的示例代碼,文中通過示例代碼介紹的非常詳細,對大家的學習或者工作具有一定的參考學習價值,需要的朋友們下面隨著小編來一起學習學習吧
    2020-04-04
  • python?如何使用requests下載文件

    python?如何使用requests下載文件

    這篇文章主要介紹了python?如何使用requests下載文件,具有很好的參考價值,希望對大家有所幫助。如有錯誤或未考慮完全的地方,望不吝賜教
    2022-02-02
  • pyqt5的QWebEngineView 使用模板的方法

    pyqt5的QWebEngineView 使用模板的方法

    這篇文章主要介紹了pyqt5的QWebEngineView 使用模板的方法,小編覺得挺不錯的,現在分享給大家,也給大家做個參考。一起跟隨小編過來看看吧
    2018-08-08
  • 基于python實現數組格式參數加密計算

    基于python實現數組格式參數加密計算

    這篇文章主要介紹了基于python實現數組格式參數加密計算,文中通過示例代碼介紹的非常詳細,對大家的學習或者工作具有一定的參考學習價值,需要的朋友可以參考下
    2020-04-04
  • 詳解Python中的Dict

    詳解Python中的Dict

    這篇文章主要為大家介紹了Python中的Dict,具有一定的參考價值,感興趣的小伙伴們可以參考一下,希望能夠給你帶來幫助
    2021-12-12
  • Python實現的多項式擬合功能示例【基于matplotlib】

    Python實現的多項式擬合功能示例【基于matplotlib】

    這篇文章主要介紹了Python實現的多項式擬合功能,結合實例形式分析了Python基于matplotlib模塊進行數值運算與圖形繪制相關操作技巧,需要的朋友可以參考下
    2018-05-05
  • 如何用python處理excel表格

    如何用python處理excel表格

    在本篇文章里小編給大家整理了關于python處理excel表格的詳細步驟內容,需要的朋友們可以參考下。
    2020-06-06
  • python使用正則表達式替換匹配成功的組

    python使用正則表達式替換匹配成功的組

    正則表達式,又稱正規(guī)表示式、正規(guī)表示法、正規(guī)表達式、規(guī)則表達式、常規(guī)表示法。這篇文章主要介紹了python里使用正則表達式來替換匹配成功的組,需要的朋友可以參考下
    2017-11-11
  • 將tensorflow的ckpt模型存儲為npy的實例

    將tensorflow的ckpt模型存儲為npy的實例

    今天小編就為大家分享一篇將tensorflow的ckpt模型存儲為npy的實例,具有很好的參考價值,希望對大家有所幫助。一起跟隨小編過來看看吧
    2018-07-07

最新評論

衡南县| 福泉市| 泗阳县| 玉溪市| 常山县| 遂平县| 南郑县| 宜兰市| 托克托县| 阿拉尔市| 黄冈市| 丽水市| 汝城县| 武山县| 宿松县| 南陵县| 普兰店市| 吉林市| 岢岚县| 饶阳县| 兴和县| 巨鹿县| 东光县| 若羌县| 巴林右旗| 沧州市| 杂多县| 三亚市| 永泰县| 文化| 通化市| 奎屯市| 连州市| 子洲县| 随州市| 汕尾市| 于都县| 台中市| 三门县| 洛扎县| 慈溪市|