聊聊python中令人迷惑的duplicated和drop_duplicates()用法
更新時間：2021年05月21日 11:07:32 作者：石小秀1995
這篇文章主要介紹了聊聊python中令人迷惑的duplicated和drop_duplicates()用法，具有很好的參考價值，希望對大家有所幫助。如有錯誤或未考慮完全的地方，望不吝賜教
前言
在算face_track_id map有感：
開始驗證
data={'state':[1,1,2,2,1,2,2,2],'pop':['a','b','c','d','b','c','d','d']}
frame=pd.DataFrame(data)
frame
frame.shape $ (8,2)
# 說明duplicated()是對整行進行查重，return 重復了的數據，且只現實n-1條重復的數據（n是重復的次數） frame[frame.duplicated() == True]
一開始還很疑惑，明明（1，b）只出現了1次，哪里duplicate了。其實，人家return的結果是去掉已經出現過一次的行數據了。所以看起來有點confuse，感覺（1，b）并沒有重復，但其實人家的函數很簡潔呢，返回了重復值而且不冗余。
# 說明drop_duplicates()函數是將所有重復的數據都去掉了，且默認保留重復數據的第一條。 # 比如（2，d）出現了3次，在duplicated（）中顯示了2次，在drop_dupicates（）后保留了一個 frame.drop_duplicates().shape $ (4,2)
# 留下了完全唯一的數據行 frame.drop_duplicates()
補充：python的pandas重復值處理（duplicated()和drop_duplicates())
一、生成重復記錄數據
import numpy as np import pandas as pd #生成重復數據 df=pd.DataFrame(np.ones([5,2]),columns=['col1','col2']) df['col3']=['a','b','a','c','d'] df['col4']=[3,2,3,2,2] df=df.reindex(columns=['col3','col4','col1','col2']) #將新增的一列排在第一列 df
輸出：
二、判斷重復記錄（行）
#判斷重復數據 isDplicated=df.duplicated() #判斷重復數據記錄 isDplicated
輸出：
三、刪除重復值
#刪除重復值 new_df1=df.drop_duplicates() #刪除數據記錄中所有列值相同的記錄 new_df2=df.drop_duplicates(['col3']) #刪除數據記錄中col3列值相同的記錄 new_df3=df.drop_duplicates(['col4']) #刪除數據記錄中col4列值相同的記錄 new_df4=df.drop_duplicates(['col3','col4']) #刪除數據記錄中(col3和col4)列值相同的記錄 new_df1 new_df2 new_df3 new_df4
輸出：
以上為個人經驗，希望能給大家一個參考，也希望大家多多支持腳本之家。
相關文章
這篇文章主要介紹了Python實現加密的RAR文件解壓，本文分步驟給大家介紹的非常詳細，對大家的學習或工作具有一定的參考借鑒價值,需要的朋友可以參考下2020-09-09
這篇文章主要介紹了django序列化時使用外鍵的真實值操作，具有很好的參考價值，希望對大家有所幫助。一起跟隨小編過來看看吧2020-07-07
這篇文章主要介紹了django使用F方法更新一個對象多個對象字段的實現，具有很好的參考價值，希望對大家有所幫助。一起跟隨小編過來看看吧2020-03-03
今天小編就為大家分享一篇在python中實現同行輸入/接收多個數據的示例，具有很好的參考價值，希望對大家有所幫助。一起跟隨小編過來看看吧2019-07-07
Pycharm2020.1安裝中文語言插件的詳細教程(不需要漢化)
這篇文章主要介紹了Pycharm2020.1安裝中文語言插件的詳細教程,不需要漢化,本文給大家分享三種方法，在這小編推薦使用方法二，具體內容詳情大家跟隨小編一起看看吧2020-08-08
這篇文章主要介紹了Django的數據模型訪問多對多鍵值的方法,Django是Python豐富多彩的web框架中最具人氣的一個,需要的朋友可以參考下2015-07-07
Pandas.DataFrame刪除指定行和列(drop)的實現
本文主要介紹了Pandas.DataFrame刪除指定行和列(drop)的實現，文中通過示例代碼介紹的非常詳細，對大家的學習或者工作具有一定的參考學習價值，需要的朋友們下面隨著小編來一起學習學習吧2023-02-02
今天向大家介紹如何搭建Python開發(fā)環(huán)境, Python可應用于多平臺包括 Linux 和 Mac OS X,文中有非常詳細的圖文介紹,需要的朋友可以參考下2021-05-05
單向鏈表也叫單鏈表，是鏈表中最簡單的一種形式，它的每個節(jié)點包含兩個域，一個信息域（元素域）和一個鏈接域，這個鏈接指向鏈表中的下一個節(jié)點，而最后一個節(jié)點的鏈接域則指向一個空值，這篇文章主要介紹了Python實現單項鏈表,需要的朋友可以參考下2023-01-01
這篇文章主要介紹了Python Selenium實現無可視化界面過程解析,文中通過示例代碼介紹的非常詳細，對大家的學習或者工作具有一定的參考學習價值,需要的朋友可以參考下2020-08-08