最新国产好看的视频,伊人天堂AV在线,国产Aaaaaa视频,蜜臀视频在线观看一区,人妻av色图,密臀久久久精品影片,青青视频免费观看毛片,久草在线观看视,国产三级精品色情在线

python刪除本地夾里重復(fù)文件的方法

 更新時(shí)間:2020年11月19日 16:13:49   作者:許西城  
這篇文章主要為大家詳細(xì)介紹了python刪除本地夾里重復(fù)文件的方法,文中示例代碼介紹的非常詳細(xì),具有一定的參考價(jià)值,感興趣的小伙伴們可以參考一下

上次的博文主要說(shuō)了從網(wǎng)上下載圖片,于是我把整個(gè)笑話網(wǎng)站的圖片都拔下來(lái)了,但是在拔取的圖片中有很多重復(fù)的,比如說(shuō)頁(yè)面的其他圖片、重復(fù)發(fā)布的圖片等等。所以我又找了python的一些方法,寫(xiě)了一個(gè)腳本可以刪除指定文件夾里重復(fù)的圖片。

一、方法和思路

1.比對(duì)文件是否相同的方法:hashlib庫(kù)里提供了獲取文件md5值的方法,所以我們可以通過(guò)md5值來(lái)判定是否圖片相同

2.對(duì)文件的操作:os庫(kù)里有對(duì)文件的操作方法,比如:os.remove()可以刪除指定的文件, os.listdir()可以通過(guò)指定文件夾路徑獲取文件夾里所有文件的文件名

思路:通過(guò)獲取指定文件夾的所有文件名,然后匹配為一個(gè)絕對(duì)路徑的列表,循環(huán)的比對(duì)每個(gè)文件的md5值,如果md5值重復(fù),則刪除這個(gè)文件

二、代碼實(shí)現(xiàn)

import os 
import hashlib 
import logging 
import sys 
 
def logger(): 
 """ 獲取logger""" 
 logger = logging.getLogger() 
 if not logger.handlers: 
 # 指定logger輸出格式 
 formatter = logging.Formatter('%(asctime)s %(levelname)-8s: %(message)s') 
 # 文件日志 
 file_handler = logging.FileHandler("test.log") 
 file_handler.setFormatter(formatter) # 可以通過(guò)setFormatter指定輸出格式 
 # 控制臺(tái)日志 
 console_handler = logging.StreamHandler(sys.stdout) 
 console_handler.formatter = formatter # 也可以直接給formatter賦值 
 # 為logger添加的日志處理器 
 logger.addHandler(file_handler) 
 logger.addHandler(console_handler) 
 # 指定日志的最低輸出級(jí)別,默認(rèn)為WARN級(jí)別 
 logger.setLevel(logging.INFO) 
 return logger 
 
def get_md5(filename): 
 m = hashlib.md5() 
 mfile = open(filename, "rb") 
 m.update(mfile.read()) 
 mfile.close() 
 md5_value = m.hexdigest() 
 return md5_value 
 
def get_urllist(): 
 #替換指定的文件夾路徑即可 
 base = ("F:\\pythonFile\\煎蛋網(wǎng)\\無(wú)聊圖\\jpg\\") 
 list = os.listdir(base) 
 urlList=[] 
 for i in list: 
 url = base + i 
 urlList.append(url) 
 return urlList 
 
if __name__ == '__main__': 
 log = logger() 
 md5List =[] 
 urlList =get_urllist() 
 for a in urlList: 
 md5 =get_md5(a) 
 if (md5 in md5List): 
  os.remove(a) 
  print("重復(fù):%s"%a) 
  log.info("重復(fù):%s"%a) 
 else: 
  md5List.append(md5) 
  # print(md5List) 
  print("一共%s張照片"%len(md5List)) 

然后我們可以通過(guò)日志來(lái)查看到底哪些文件是重復(fù)的,不過(guò)對(duì)于一些超大文件的話,md5值的獲取會(huì)有一些變化,不過(guò)處理一般的小文件都可以的,只需要替換我的路徑,就可以在你電腦上運(yùn)行啦。

以上就是本文的全部?jī)?nèi)容,希望對(duì)大家的學(xué)習(xí)有所幫助,也希望大家多多支持腳本之家。

相關(guān)文章

  • python知識(shí):裝飾器@property到底有啥用途

    python知識(shí):裝飾器@property到底有啥用途

    這篇文章主要介紹了python裝飾器@property到底有啥用途,具有很好的參考價(jià)值,希望對(duì)大家有所幫助。如有錯(cuò)誤或未考慮完全的地方,望不吝賜教
    2023-01-01
  • python如何寫(xiě)try語(yǔ)句

    python如何寫(xiě)try語(yǔ)句

    在本篇文章里小編給大家整理的是一篇關(guān)于python寫(xiě)try語(yǔ)句的方法相關(guān)內(nèi)容,有興趣的朋友們可以跟著學(xué)習(xí)參考下。
    2020-07-07
  • 利用Python的Twisted框架實(shí)現(xiàn)webshell密碼掃描器的教程

    利用Python的Twisted框架實(shí)現(xiàn)webshell密碼掃描器的教程

    這篇文章主要介紹了利用Python的Twisted框架實(shí)現(xiàn)webshell密碼掃描器的教程,用到了Twisted框架的異步通信機(jī)制,需要的朋友可以參考下
    2015-04-04
  • python進(jìn)程池實(shí)現(xiàn)的多進(jìn)程文件夾copy器完整示例

    python進(jìn)程池實(shí)現(xiàn)的多進(jìn)程文件夾copy器完整示例

    這篇文章主要介紹了python進(jìn)程池實(shí)現(xiàn)的多進(jìn)程文件夾copy器,結(jié)合完整實(shí)例形式分析了Python基于多進(jìn)程與進(jìn)程池的文件操作相關(guān)實(shí)現(xiàn)技巧,需要的朋友可以參考下
    2019-11-11
  • 使用python測(cè)試prometheus的實(shí)現(xiàn)

    使用python測(cè)試prometheus的實(shí)現(xiàn)

    本文主要介紹了使用python測(cè)試prometheus的實(shí)現(xiàn),文中通過(guò)示例代碼介紹的非常詳細(xì),具有一定的參考價(jià)值,感興趣的小伙伴們可以參考一下
    2022-02-02
  • 詳解Django緩存處理中Vary頭部的使用

    詳解Django緩存處理中Vary頭部的使用

    這篇文章主要介紹了詳解Django緩存處理中Vary頭部的使用,Django是最具人氣的Python web開(kāi)發(fā)框架,需要的朋友可以參考下
    2015-07-07
  • Python Pyecharts繪制箱線圖詳解

    Python Pyecharts繪制箱線圖詳解

    箱形圖(Box-plot)又稱為盒須圖、盒式圖或箱線圖,是一種用作顯示一組數(shù)據(jù)分散情況資料的統(tǒng)計(jì)圖。因形狀如箱子而得名。本文將通過(guò)Python Pyecharts來(lái)繪制一些箱線圖,需要的可以參考一下
    2022-03-03
  • Python實(shí)現(xiàn)統(tǒng)計(jì)英文文章詞頻的方法分析

    Python實(shí)現(xiàn)統(tǒng)計(jì)英文文章詞頻的方法分析

    這篇文章主要介紹了Python實(shí)現(xiàn)統(tǒng)計(jì)英文文章詞頻的方法,結(jié)合實(shí)例形式分析了Python針對(duì)英文單詞頻率統(tǒng)計(jì)的相關(guān)原理、實(shí)現(xiàn)方法及具體操作技巧,需要的朋友可以參考下
    2019-01-01
  • windows系統(tǒng)IIS部署Django項(xiàng)目的實(shí)踐

    windows系統(tǒng)IIS部署Django項(xiàng)目的實(shí)踐

    采用IIS服務(wù)器部署相比django提供的開(kāi)發(fā)者服務(wù)器具有更好的并發(fā)訪問(wèn)能力,性能更加穩(wěn)定,本文主要介紹了windows系統(tǒng)IIS部署Django項(xiàng)目的實(shí)踐,具有一定的參考價(jià)值,感興趣的可以了解一下
    2022-03-03
  • python str字符串轉(zhuǎn)uuid實(shí)例

    python str字符串轉(zhuǎn)uuid實(shí)例

    這篇文章主要介紹了python str字符串轉(zhuǎn)uuid實(shí)例,具有很好的參考價(jià)值,希望對(duì)大家有所幫助。一起跟隨小編過(guò)來(lái)看看吧
    2020-03-03

最新評(píng)論

稷山县| 当涂县| 上栗县| 静乐县| 阳朔县| 封丘县| 文化| 天长市| 琼海市| 肥西县| 马鞍山市| 若尔盖县| 堆龙德庆县| 临洮县| 义马市| 元阳县| 昌邑市| 通辽市| 陆丰市| 长葛市| 紫云| 山东省| 临夏市| 无锡市| 八宿县| 克什克腾旗| 循化| 东丰县| 宁远县| 江口县| 五峰| 洪泽县| 栾川县| 永清县| 泊头市| 梨树县| 萝北县| 临邑县| 崇信县| 仪征市| 正蓝旗|