最新国产好看的视频,伊人天堂AV在线,国产Aaaaaa视频,蜜臀视频在线观看一区,人妻av色图,密臀久久久精品影片,青青视频免费观看毛片,久草在线观看视,国产三级精品色情在线

python批量查詢、漢字去重處理CSV文件

 更新時(shí)間:2018年05月31日 11:55:00   作者:Lavender_sx  
這篇文章主要為大家詳細(xì)介紹了python批量查詢、漢字去重處理CSV文件,具有一定的參考價(jià)值,感興趣的小伙伴們可以參考一下

CSV文件用記事本打開后一般為由逗號(hào)隔開的字符串,其處理方法用Python的代碼如下。為方便各種程度的人閱讀在代碼中有非常詳細(xì)的注釋。

1.查詢指定列,并保存到新的csv文件。

# -*- coding: utf-8 -*- 
''''' 
Author: Good_Night 
Time: 2018/1/30 03:50 
Edition: 1.0 
''' 
# 導(dǎo)入必須的csv庫 
import csv 
 
# 創(chuàng)建臨時(shí)文件temp.csv找出所需要的列 
temp_file = open("temp.csv", "w", newline='') # 如果不指定newline='',則每寫入一行將有一空行被寫入 
temp_csv_writer = csv.writer(temp_file, dialect="excel") 
# 讀取input.csv文件,此時(shí)只有指定的一列數(shù)據(jù) 
with open('input.csv') as file: 
  temp_readcsv = csv.reader(file, delimiter=',') 
  for row in temp_readcsv: # 取出input.csv所有列數(shù)據(jù) 
    temp = [row[3]] # 得到指定列數(shù)據(jù) 
#    print(row[3])  #print()打印input.csv文件中第3列所有數(shù)據(jù) 
    temp_csv_writer.writerow(temp) # 第3列每行數(shù)據(jù)循環(huán)寫入temp.csv文件中 
temp_file.close() 

2.查詢指定列中,每行數(shù)據(jù)出現(xiàn)在所有行數(shù)據(jù)的次數(shù),并保存到新的csv文件。

# -*- coding: utf-8 -*- 
''''' 
Author: Good_Night 
Time: 2018/1/30 03:50 
Edition: 1.0 
''' 
# 導(dǎo)入必須的csv庫 
import csv 
 
# 創(chuàng)建臨時(shí)文件temp.csv找出所需要的列 
temp_file = open("temp.csv", "w", newline='') # 如果不指定newline='',則每寫入一行將有一空行被寫入 
temp_csv_writer = csv.writer(temp_file, dialect="excel") 
# 讀取input.csv文件,此時(shí)只有指定的一列數(shù)據(jù) 
with open('input.csv') as file: 
  temp_readcsv = csv.reader(file, delimiter=',') 
  for row in temp_readcsv: # 取出input.csv所有列數(shù)據(jù) 
    temp = [row[3]] # 得到指定列數(shù)據(jù) 
#    print(row[3])  #print()打印input.csv文件中第3列所有數(shù)據(jù) 
    temp_csv_writer.writerow(temp) # 第3列每行數(shù)據(jù)循環(huán)寫入temp.csv文件中 
temp_file.close() 
 
# 在臨時(shí)文件基礎(chǔ)上匹配所要找的數(shù)據(jù),計(jì)算出次數(shù)生成out.csv文件 
flag = 0 # 臨時(shí)變量 
out1 = [] # 新建數(shù)組來保存指定列的每行數(shù)據(jù) 
time = [] # 新建數(shù)組來保存指定列的每行數(shù)據(jù)出現(xiàn)的次數(shù) 
out_file = open("out.csv", "w", newline='') # 如果不指定newline='',則每寫入一行將有一空行被寫入 
out_csv_writer = csv.writer(out_file, dialect="excel") 
out_csv_writer.writerow(["TIMES"]) 
# 讀取temp.csv文件,此時(shí)只有指定的一列數(shù)據(jù) 
with open('temp.csv') as file2: 
  out_readcsv = csv.reader(file2, delimiter=',') 
  for St in out_readcsv: # 循環(huán)取出列的每行數(shù)據(jù) 
    out1.append(St) # append()將列的每行數(shù)據(jù)變?yōu)閛ut1鏈表(list)的后續(xù)增加的元素,即將列數(shù)據(jù)變?yōu)橐痪S數(shù)組。 
#  print(out1[1]) # 打印out1[n]的第n個(gè)元素,即原列的第n行元素 
  for i in range(len(out1)): # len()獲得out1鏈表(list)中元素的個(gè)數(shù),便于判斷循環(huán)次數(shù)。 
#    print(out1[i]) # 打印out1鏈表所有元素,檢驗(yàn)循環(huán)是否出錯(cuò) 
    flag = out1.count(out1[i]) # count()獲得out1鏈表中第i個(gè)元素在所有元素中出現(xiàn)的次數(shù)。 
    time.append(flag) # 將獲得的某元素出現(xiàn)的次數(shù)按順序保存至time[]數(shù)組里 
#  print(time) # 打印顯示所有元素出現(xiàn)的次數(shù),判斷是否出錯(cuò) 
  for j in range(len(out1)): # len()得到out1鏈表元素個(gè)數(shù),依此作為time[]查找下標(biāo) 
    times = [time[j]] # 取出元素對(duì)應(yīng)出現(xiàn)的次數(shù) 
    out_csv_writer.writerow(times) # 寫入out.csv文件里 
    print(times) # 打印顯示次數(shù) 
out_file.close() 

因?yàn)槭桥刻幚砺飤所以寫的是所有數(shù)據(jù)重復(fù)出現(xiàn)的次數(shù)(但這個(gè)有點(diǎn)BUG,可能看完代碼就知道了,沒有去重?。?!舉個(gè)例子說a出現(xiàn)在第一行和第三行共2次,結(jié)果出來后就是第一行出現(xiàn)a,對(duì)應(yīng)次數(shù)為2,第三行又出現(xiàn)a,對(duì)應(yīng)次數(shù)也是2....這就是沒有去重的麻煩之處,重復(fù)的數(shù)據(jù)會(huì)再次顯示。)。但稍微修改一下可實(shí)現(xiàn)搜索某一數(shù)據(jù)出現(xiàn)的次數(shù)啦~

3.查詢指定列中,每行數(shù)據(jù)出現(xiàn)在所有行數(shù)據(jù)的次數(shù),去重處理后,并保存到新的csv文件。

一般去重都是數(shù)字或者字符去重,可以直接調(diào)用相應(yīng)函數(shù),而漢字去重就比只能循環(huán)比較了。所以這個(gè)算是包容性相當(dāng)大的一種方式。

# -*- coding: utf-8 -*- 
''''' 
Author: Good Night 
Time: 2018/2/7 18:50 
Edition: 2.0 
''' 
# 導(dǎo)入必須的csv庫 
import csv 
 
# 創(chuàng)建臨時(shí)文件temp.csv找出所需要的列 
temp_file = open("temp.csv", "w", newline='') # 如果不指定newline='',則每寫入一行將有一空行被寫入 
temp_csv_writer = csv.writer(temp_file, dialect="excel") 
# 讀取input.csv文件,此時(shí)只有指定的一列數(shù)據(jù) 
with open('input.csv') as file: 
  temp_readcsv = csv.reader(file, delimiter=',') 
  for row in temp_readcsv: # 取出input.csv所有列數(shù)據(jù) 
    temp = [row[3]] # 得到指定列數(shù)據(jù) 
#    print(row[3]) #print()打印input.csv文件中第3列所有數(shù)據(jù) 
    temp_csv_writer.writerow(temp) # 第3列每行數(shù)據(jù)循環(huán)寫入temp.csv文件中 
temp_file.close() 
 
# 在臨時(shí)文件基礎(chǔ)上匹配所要找的數(shù)據(jù),計(jì)算出次數(shù)生成out.csv文件 
out1 = [] # 新建數(shù)組來保存指定列的每行數(shù)據(jù) 
out_time = [] # 新建數(shù)組來保存指定列的每行數(shù)據(jù)出現(xiàn)的次數(shù) 
out_file = open("out.csv", "w", newline='') # 如果不指定newline='',則每寫入一行將有一空行被寫入 
out_csv_writer = csv.writer(out_file, dialect="excel") 
out_csv_writer.writerow(["ID", "TIMES"]) # 寫入標(biāo)題 數(shù)據(jù),出現(xiàn)次數(shù) 
# 讀取temp.csv文件,此時(shí)只有指定的一列數(shù)據(jù) 
with open('temp.csv') as file2: 
  out_readcsv = csv.reader(file2, delimiter=',') 
  for St in out_readcsv: # 循環(huán)取出列的每行數(shù)據(jù) 
    out1.append(St) # append()將列的每行數(shù)據(jù)變?yōu)閛ut1鏈表(list)的后續(xù)增加的元素,即將列數(shù)據(jù)變?yōu)橐痪S數(shù)組。 
  print(out1)  # 打印out1[n]的第n個(gè)元素,即原列的第n行元素 
 
# list的迭代其實(shí)是以list中項(xiàng)的序列號(hào)來遍歷的,不會(huì)因?yàn)閘ist的的改變而改變, 
# 永遠(yuǎn)都是按照序號(hào)的0,1,2...遍歷。當(dāng)刪除其中某一項(xiàng)時(shí),它之后的每一項(xiàng)的序列號(hào)各往前移一項(xiàng). 
# 當(dāng)遍歷list時(shí),若發(fā)現(xiàn)0項(xiàng)是重復(fù)項(xiàng)(因?yàn)閮?nèi)嵌函數(shù)均處理第一個(gè)發(fā)現(xiàn)項(xiàng)),于是將其移除。當(dāng)移除0項(xiàng)時(shí), 
# 原來的1項(xiàng)變?yōu)?項(xiàng),以此類推。此時(shí)list迭代由1開始(0項(xiàng)已過),但此時(shí)的1項(xiàng)是原list的2項(xiàng),這樣子就漏掉原list的1項(xiàng)! 
  # 可以將list反轉(zhuǎn)來進(jìn)行刪除操作,其本質(zhì)就是放當(dāng)發(fā)現(xiàn)某項(xiàng)具有重復(fù)項(xiàng)時(shí),就從后往前刪除。 
  # 比如迭代0項(xiàng)發(fā)現(xiàn)1項(xiàng)是它的重復(fù)項(xiàng),那么就刪除1項(xiàng),刪除1項(xiàng)后2項(xiàng)變1項(xiàng),而此時(shí)list迭代正則到了1項(xiàng)。 
  # 從原始list的角度上來說,就跳過了1項(xiàng)。但是它卻不影響去重,因?yàn)樗^的是重復(fù)項(xiàng)。 
  # list的不重復(fù)迭代反而使去重效率更高且不會(huì)漏掉不重復(fù)項(xiàng)。因此原始list直接去重的核心問題不是迭代的漏項(xiàng),而是迭代不能漏掉不重復(fù)項(xiàng)。 
  for i in out1: 
    a = out1.count(i) # 取元素 
    out_time.append(a) # 得到出現(xiàn)的次數(shù) 
#    print(i, a) 
    if a > 1: 
      out1.reverse() # 將list反轉(zhuǎn)來進(jìn)行刪除操作 
      for k in range(1, a): 
        out1.remove(i) # 從后往前刪除直到最前面的第一個(gè)為止,這樣即刪除了后面的,又保留了第一個(gè)! 
      out1.reverse() # 將list再反轉(zhuǎn)回來,保證下次循環(huán)又是從原始順序來刪除 
  print(out1) # 此時(shí)out1鏈表(list)即去重后的list 
  print(out_time) # 元素出現(xiàn)的次數(shù) 
  for j in range(len(out1)): # len()得到out1鏈表元素個(gè)數(shù),依此作為time[]查找下標(biāo) 
    out_row = [out1[j], out_time[j]]  # 取元素和對(duì)應(yīng)的次數(shù) 
    out_csv_writer.writerow(out_row) # 寫入out.csv文件里 
out_file.close() 

劃重點(diǎn)!這個(gè)代碼是經(jīng)過了去重處理后的,完全不用擔(dān)心會(huì)有重復(fù)數(shù)據(jù)顯示啦~

Python處理此類數(shù)據(jù)相當(dāng)快,大概一萬行數(shù)據(jù)只需要1秒.......

以上就是本文的全部內(nèi)容,希望對(duì)大家的學(xué)習(xí)有所幫助,也希望大家多多支持腳本之家。

相關(guān)文章

最新評(píng)論

兴海县| 福清市| 乡城县| 合肥市| 湖州市| 唐河县| 常州市| 松江区| 云南省| 新安县| 长武县| 巴彦县| 密山市| 开平市| 鄂伦春自治旗| 峡江县| 右玉县| 江西省| 南乐县| 黔西| 双牌县| 台南县| 三亚市| 乌鲁木齐市| 博爱县| 沂源县| 梧州市| 兴海县| 上林县| 荣成市| 延川县| 昭苏县| 贡嘎县| 荃湾区| 兴业县| 康定县| 夏津县| 湖南省| 阆中市| 永吉县| 思茅市|