MySQL去重的方法整理
MySQL去重的方法整理
【初級】有極少的重復(fù)行
使用distinct查出來，然后手動一行一行刪除。
【中級】按照單個字段的重復(fù)去重
例如：對id字段去重
使用方法：獲取id的重復(fù)字段的值，利用相同id字段所在的行中，比較出數(shù)據(jù)不同的字段，刪除 除了最小（或最大）的字段所在的該行之外的所有重復(fù)的行。一般使用主鍵來比較，因為主鍵的值一定是唯一值，絕對不相同。
id name 1 a 1 b 2 c 2 a 3 c
結(jié)果：
id name 1 a 2 a
操作：
delete from a_tmp where id in (select * from (select b.id from a_tmp b group by b.id having count(b.id) >1) bb) and name not in (select * from (select min(a.name) from a_tmp a GROUP BY a.id having count(a.id) >1) aa);
注意：
上述加粗并綠色的字，必須加別名，必須使用select * from (……)這樣的格式，否則會報錯：
[Err] 1093 - You can't specify target table 'a_tmp' for update in FROM clause
【高級】按多個字段的重復(fù)來去重
例如：對id，name相同的去重，即：對id，name都相同的算作重復(fù)行，對id相同而name不同的算作不重復(fù)行
使用方法：和單個字段相似，一般使用主鍵來比較，因為主鍵的值一定是唯一值。
id name rowid 1 a 1 1 a 2 1 b 3 2 b 4 2 b 5 3 c 6 3 d 7
結(jié)果：
id name rowid 1 a 1 1 b 3 2 b 4 3 c 6 3 d 7
操作：
第一種：
delete from a_tmp where (id,name) in (select * from (select b.id,b.name from a_tmp b group by b.id,b.name having count(b.id) >1) bb) and rowid not in (select * from (select min(a.rowid) from a_tmp a group by a.id,a.name having count(a.id) >1) aa);
第二種：
將id和name字段的值連接起來插入到臨時表中b_tmp，這樣便可以使用【中級】的單字段的判斷刪除方法。
#將兩字段連接的值，a_tmp表中唯一值的字段插入b_tmp表
insert into b_tmp select concat(id,name),rowid from a_tmp; #查出需要留下來的行 select id_name,max(rowid) from b_tmp group by id_name having count(id_name)>1; #使用【中級】的方法，或存儲過程完成去重的工作
【終極】每行都有兩份一樣的數(shù)據(jù)
例如：
使用方法：對于整行的數(shù)據(jù)都一樣，是沒辦法使用SQL語句刪除的，因為沒有可以使用的條件限制來留下一行刪除所有與其相同的行。沒有不同的字段可以自己創(chuàng)造不同的字段，即：添加一個字段，設(shè)為自增長，并設(shè)為主鍵，它會自動添加上值。
id name 1 a 1 a 1 b 1 b 2 c 2 c 3 c 3 c
結(jié)果：
id name rowid 1 a 1 1 b 3 2 c 5 3 c 7
操作：
添加一個自增長的字段，并暫時設(shè)為主鍵。
使用上面【中級】和【高級】的方法操作。
感謝閱讀，希望能幫助到大家，謝謝大家對本站的支持！
相關(guān)文章
解決mysql登錄錯誤：''Access denied for user ''root''@''localhost''
這篇文章主要介紹了mysql登錄錯誤：'Access denied for user 'root'@'localhost'，本文給出了操作過程及注意事項,需要的朋友可以參考下2019-11-11
這篇文章主要為大家詳細介紹了最新 mysql 5.7.23 安裝配置圖文教程，具有一定的參考價值，感興趣的小伙伴們可以參考一下2018-11-11
Linux系統(tǒng)每日定時備份mysql數(shù)據(jù)的方法步驟
這篇文章主要介紹了Linux系統(tǒng)每日定時備份mysql數(shù)據(jù)的方法步驟,包括創(chuàng)建文件夾、編寫腳本、設(shè)置定時任務(wù)和測試腳本,詳細步驟涵蓋從文件夾創(chuàng)建到腳本執(zhí)行的全過程,幫助用戶實現(xiàn)數(shù)據(jù)庫的自動備份,需要的朋友可以參考下2024-11-11
這篇文章主要給大家介紹了關(guān)于mysql索引失效的情況，文中通過圖文介紹的非常詳細，對大家的學習或者工作具有一定的參考學習價值，需要的朋友們下面隨著小編來一起學習學習吧2021-03-03
mysql err錯誤提示You need to use --log-
今天在檢查mysql服務(wù)器錯誤日志的時候發(fā)現(xiàn)You need to use --log-bin to make --binlog-format work，通過如下方法解決了特分享一下2023-06-06
連接遠程mysql數(shù)據(jù)庫失敗常見原因及解決方案
這篇文章主要介紹了連接遠程mysql數(shù)據(jù)庫失敗常見原因及解決方案,具有很好的參考價值,希望對大家有所幫助,如有錯誤或未考慮完全的地方,望不吝賜教2024-07-07
MySQL使用mysqldump實現(xiàn)數(shù)據(jù)完全備份
mysqldump是MySQL自帶的備份工具，可方便實現(xiàn)對MySQL的備份，也可以將指定的庫、表導(dǎo)出為SQL腳本，下面小編就來教大家如何使用mysqldump實現(xiàn)數(shù)據(jù)完全備份吧2023-07-07
快速解決mysql導(dǎo)數(shù)據(jù)時,格式不對、導(dǎo)入慢、丟數(shù)據(jù)的問題
這篇文章主要介紹了快速解決mysql導(dǎo)數(shù)據(jù)時,格式不對、導(dǎo)入慢、丟數(shù)據(jù)的問題，具有很好的參考價值，希望對大家有所幫助。一起跟隨小編過來看看吧2020-07-07
數(shù)據(jù)庫之所以要加鎖，因為數(shù)據(jù)庫是一個多用戶使用的共享資源。當多個用戶并發(fā)地存取數(shù)據(jù)時，在數(shù)據(jù)庫中就會產(chǎn)生多個事務(wù)同時存取同一數(shù)據(jù)的情況。若對并發(fā)操作不加控制就可能會讀取和存儲不正確的數(shù)據(jù)，破壞數(shù)據(jù)庫的一致性2022-08-08
MySQL數(shù)據(jù)庫在安裝或卸載的過程中,常常會出現(xiàn)一些錯誤,這是件讓我們頭疼的事,下面這篇文章主要給大家介紹了關(guān)于MySQL安裝常見報錯處理方法的相關(guān)資料,文中通過實例代碼介紹的非常詳細,需要的朋友可以參考下2022-07-07