利用pandas向一個csv文件追加寫入數(shù)據(jù)的實現(xiàn)示例
我們越來越多的使用pandas進行數(shù)據(jù)處理,有時需要向一個已經存在的csv文件寫入數(shù)據(jù),傳統(tǒng)的方法之前我也有些過,向txt,excel文件寫入數(shù)據(jù),傳送門:Python將二維列表(list)的數(shù)據(jù)輸出(TXT,Excel)
pandas to_csv()只能在新文件寫數(shù)據(jù)?當然不是!
pandas to_csv() 是可以向已經存在的具有相同結構的csv文件增加dataframe數(shù)據(jù)。
df.to_csv('my_csv.csv', mode='a', header=False)
to_csv()方法mode默認為w,我們加上mode='a',便可以追加寫入數(shù)據(jù)。
pandas讀寫文件,處理數(shù)據(jù)的效率太高了,所以我們盡量使用pandas的進行輸出。
下面讓我們來看一下示例
# -*- coding:utf-8 -*-
import os
import time
import pandas as pd
from multiprocessing import Pool
def merge(filename):
return pd.read_csv('./fun_data/'+filename)
if __name__ == "__main__":
file_list = os.listdir('./fun_data')
e1 = time.time()
pool = Pool(20)
result = pool.map(merge,file_list)
pool.close()
pool.join()
e2 = time.time()
print(e2 - e1)
for i in result:
i.to_csv('./static.csv',mode='a',encoding='utf-8',header=False,index=False)
e3 = time.time()
print(e3-e2)
到此這篇關于利用pandas向一個csv文件追加寫入數(shù)據(jù)的實現(xiàn)示例的文章就介紹到這了,更多相關pandas csv追加寫入內容請搜索腳本之家以前的文章或繼續(xù)瀏覽下面的相關文章希望大家以后多多支持腳本之家!
相關文章
Python?Flask實現(xiàn)快速構建Web應用的方法詳解
Flask是一個輕量級的Web服務器網(wǎng)關接口(WSGI)web應用框架,本文將和大家一起詳細探討一下Python?Flask?Web服務,需要的小伙伴可以學習一下2023-06-06
python3操作redis實現(xiàn)List列表實例
本文主要介紹了python3操作redis實現(xiàn)List列表實例,文中通過示例代碼介紹的非常詳細,具有一定的參考價值,感興趣的小伙伴們可以參考一下2021-08-08

