python刪除本地夾里重復(fù)文件的方法
上次的博文主要說(shuō)了從網(wǎng)上下載圖片,于是我把整個(gè)笑話網(wǎng)站的圖片都拔下來(lái)了,但是在拔取的圖片中有很多重復(fù)的,比如說(shuō)頁(yè)面的其他圖片、重復(fù)發(fā)布的圖片等等。所以我又找了python的一些方法,寫(xiě)了一個(gè)腳本可以刪除指定文件夾里重復(fù)的圖片。
一、方法和思路
1.比對(duì)文件是否相同的方法:hashlib庫(kù)里提供了獲取文件md5值的方法,所以我們可以通過(guò)md5值來(lái)判定是否圖片相同
2.對(duì)文件的操作:os庫(kù)里有對(duì)文件的操作方法,比如:os.remove()可以刪除指定的文件, os.listdir()可以通過(guò)指定文件夾路徑獲取文件夾里所有文件的文件名
思路:通過(guò)獲取指定文件夾的所有文件名,然后匹配為一個(gè)絕對(duì)路徑的列表,循環(huán)的比對(duì)每個(gè)文件的md5值,如果md5值重復(fù),則刪除這個(gè)文件
二、代碼實(shí)現(xiàn)
import os
import hashlib
import logging
import sys
def logger():
""" 獲取logger"""
logger = logging.getLogger()
if not logger.handlers:
# 指定logger輸出格式
formatter = logging.Formatter('%(asctime)s %(levelname)-8s: %(message)s')
# 文件日志
file_handler = logging.FileHandler("test.log")
file_handler.setFormatter(formatter) # 可以通過(guò)setFormatter指定輸出格式
# 控制臺(tái)日志
console_handler = logging.StreamHandler(sys.stdout)
console_handler.formatter = formatter # 也可以直接給formatter賦值
# 為logger添加的日志處理器
logger.addHandler(file_handler)
logger.addHandler(console_handler)
# 指定日志的最低輸出級(jí)別,默認(rèn)為WARN級(jí)別
logger.setLevel(logging.INFO)
return logger
def get_md5(filename):
m = hashlib.md5()
mfile = open(filename, "rb")
m.update(mfile.read())
mfile.close()
md5_value = m.hexdigest()
return md5_value
def get_urllist():
#替換指定的文件夾路徑即可
base = ("F:\\pythonFile\\煎蛋網(wǎng)\\無(wú)聊圖\\jpg\\")
list = os.listdir(base)
urlList=[]
for i in list:
url = base + i
urlList.append(url)
return urlList
if __name__ == '__main__':
log = logger()
md5List =[]
urlList =get_urllist()
for a in urlList:
md5 =get_md5(a)
if (md5 in md5List):
os.remove(a)
print("重復(fù):%s"%a)
log.info("重復(fù):%s"%a)
else:
md5List.append(md5)
# print(md5List)
print("一共%s張照片"%len(md5List))
然后我們可以通過(guò)日志來(lái)查看到底哪些文件是重復(fù)的,不過(guò)對(duì)于一些超大文件的話,md5值的獲取會(huì)有一些變化,不過(guò)處理一般的小文件都可以的,只需要替換我的路徑,就可以在你電腦上運(yùn)行啦。
以上就是本文的全部?jī)?nèi)容,希望對(duì)大家的學(xué)習(xí)有所幫助,也希望大家多多支持腳本之家。
相關(guān)文章
python知識(shí):裝飾器@property到底有啥用途
這篇文章主要介紹了python裝飾器@property到底有啥用途,具有很好的參考價(jià)值,希望對(duì)大家有所幫助。如有錯(cuò)誤或未考慮完全的地方,望不吝賜教2023-01-01
利用Python的Twisted框架實(shí)現(xiàn)webshell密碼掃描器的教程
這篇文章主要介紹了利用Python的Twisted框架實(shí)現(xiàn)webshell密碼掃描器的教程,用到了Twisted框架的異步通信機(jī)制,需要的朋友可以參考下2015-04-04
python進(jìn)程池實(shí)現(xiàn)的多進(jìn)程文件夾copy器完整示例
這篇文章主要介紹了python進(jìn)程池實(shí)現(xiàn)的多進(jìn)程文件夾copy器,結(jié)合完整實(shí)例形式分析了Python基于多進(jìn)程與進(jìn)程池的文件操作相關(guān)實(shí)現(xiàn)技巧,需要的朋友可以參考下2019-11-11
使用python測(cè)試prometheus的實(shí)現(xiàn)
本文主要介紹了使用python測(cè)試prometheus的實(shí)現(xiàn),文中通過(guò)示例代碼介紹的非常詳細(xì),具有一定的參考價(jià)值,感興趣的小伙伴們可以參考一下2022-02-02
Python實(shí)現(xiàn)統(tǒng)計(jì)英文文章詞頻的方法分析
這篇文章主要介紹了Python實(shí)現(xiàn)統(tǒng)計(jì)英文文章詞頻的方法,結(jié)合實(shí)例形式分析了Python針對(duì)英文單詞頻率統(tǒng)計(jì)的相關(guān)原理、實(shí)現(xiàn)方法及具體操作技巧,需要的朋友可以參考下2019-01-01
windows系統(tǒng)IIS部署Django項(xiàng)目的實(shí)踐
采用IIS服務(wù)器部署相比django提供的開(kāi)發(fā)者服務(wù)器具有更好的并發(fā)訪問(wèn)能力,性能更加穩(wěn)定,本文主要介紹了windows系統(tǒng)IIS部署Django項(xiàng)目的實(shí)踐,具有一定的參考價(jià)值,感興趣的可以了解一下2022-03-03
python str字符串轉(zhuǎn)uuid實(shí)例
這篇文章主要介紹了python str字符串轉(zhuǎn)uuid實(shí)例,具有很好的參考價(jià)值,希望對(duì)大家有所幫助。一起跟隨小編過(guò)來(lái)看看吧2020-03-03

