Python實現(xiàn)的刪除重復文件或圖片功能示例【去重】
更新時間：2019年04月23日 10:36:33 作者：loveliuzz
這篇文章主要介紹了Python實現(xiàn)的刪除重復文件或圖片功能,結(jié)合實例形式分析了Python基于os與hashlib模塊針對文件的讀取、hash計算及重復性判定等相關(guān)操作技巧,需要的朋友可以參考下
本文實例講述了Python實現(xiàn)的刪除重復文件或圖片功能。分享給大家供大家參考，具體如下：
通過python爬蟲或其他方式保存的圖片文件通常包含一些重復的圖片或文件，
通過下面的python代碼可以將重復的文件刪除以達到去重的目的。其中，文件目錄結(jié)構(gòu)如下圖：
# /usr/bin/env python
# -*- coding:utf-8 -*-
# 運行的代碼文件要放到刪除重復的文件或圖片所包含的目錄中
import os
import hashlib
def filecount():
filecount = int(os.popen('dir /B |find /V /C ""').read())
return (filecount)
def md5sum(filename):
f = open(filename, 'rb')
md5 = hashlib.md5()
while True:
fb = f.read(8096)
if not fb:
break
md5.update(fb)
f.close()
return (md5.hexdigest())
def delfile():
all_md5 = {}
filedir = os.walk(os.getcwd())
for i in filedir:
for tlie in i[2]:
if md5sum(tlie) in all_md5.values():
os.remove(tlie)
else:
all_md5[tlie] = md5sum(tlie)
if __name__ == '__main__':
oldf = filecount()
print('去重前有', oldf, '個文件\n\n\n請稍等正在刪除重復文件...')
delfile()
print('\n\n去重后剩', filecount(), '個文件')
print('\n\n一共刪除了', oldf - filecount(), '個文件\n\n')
更多關(guān)于Python相關(guān)內(nèi)容感興趣的讀者可查看本站專題：《Python文件與目錄操作技巧匯總》、《Python文本文件操作技巧匯總》、《Python數(shù)據(jù)結(jié)構(gòu)與算法教程》、《Python函數(shù)使用技巧總結(jié)》、《Python字符串操作技巧匯總》及《Python入門與進階經(jīng)典教程》
希望本文所述對大家Python程序設(shè)計有所幫助。
相關(guān)文章
Python打包模塊wheel的使用方法與將python包發(fā)布到PyPI的方法詳解
這篇文章主要介紹了Python打包模塊wheel的使用方法與將python包發(fā)布到PyPI的方法詳解,需要的朋友可以參考下2020-02-02
Pandas之to_sql()插入數(shù)據(jù)到mysql中所遇到的問題及解決
這篇文章主要介紹了Pandas之to_sql()插入數(shù)據(jù)到mysql中所遇到的問題及解決方案，具有很好的參考價值，希望對大家有所幫助。如有錯誤或未考慮完全的地方，望不吝賜教2023-06-06
在數(shù)據(jù)生產(chǎn)應用部門，取數(shù)分析是一個很常見的需求，實際上業(yè)務(wù)人員需求時刻變化，最高效的方式是讓業(yè)務(wù)部門自己來取，減少不必要的重復勞動，本文介紹如何用Python實現(xiàn)一個自助取數(shù)查詢工具2021-06-06
這篇文章主要介紹了python檢查指定文件是否存在的方法,涉及Python基于os模塊判定文件的相關(guān)技巧,非常簡單實用,需要的朋友可以參考下2015-07-07
這篇文章主要介紹了Python生成器與迭代器，現(xiàn)在可以通過生成器來直接創(chuàng)建一個列表,是由于內(nèi)存的限制,表的容量肯定是有限的,果我們需要一個包含幾百個元素的列表,是每次訪問的時候只訪問其中的幾個,剩下的元素不使用就很浪費內(nèi)存空間,下面來了解具體內(nèi)容2021-11-11
本文介紹了結(jié)合前端校驗和后端Redis緩存策略實現(xiàn)郵箱登錄的功能,旨在提高安全性和效率,前端校驗郵箱格式,后端生成并發(fā)送驗證碼,使用Redis緩存驗證碼以提高效率和安全性,感興趣的朋友一起看看吧2024-12-12
這篇文章主要給大家介紹了關(guān)于Python抓包并解析json爬蟲的相關(guān)資料，文中通過示例代碼介紹的非常詳細，對大家的學習或者工作具有一定的參考學習價值，需要的朋友們下面隨著小編來一起學習學習吧2020-11-11
Python調(diào)用百度OCR實現(xiàn)圖片文字識別的示例代碼
這篇文章主要介紹了Python調(diào)用百度OCR實現(xiàn)圖片文字識別的示例代碼，文中通過示例代碼介紹的非常詳細，對大家的學習或者工作具有一定的參考學習價值，需要的朋友們下面隨著小編來一起學習學習吧2020-07-07
這篇文章主要為大家詳細介紹了Python如何利用cv2實現(xiàn)動態(tài)繪制圓和矩形的功能，文中的示例代碼講解詳細，具有一定的參考價值，需要的可以參考一下2023-03-03
這篇文章主要介紹了matplotlib之屬性組合包(cycler)的使用，文中通過示例代碼介紹的非常詳細，對大家的學習或者工作具有一定的參考學習價值，需要的朋友們下面隨著小編來一起學習學習吧2021-02-02