最新国产好看的视频,伊人天堂AV在线,国产Aaaaaa视频,蜜臀视频在线观看一区,人妻av色图,密臀久久久精品影片,青青视频免费观看毛片,久草在线观看视,国产三级精品色情在线

Python拆分大型CSV文件代碼實例

 更新時間:2019年10月07日 08:36:02   作者:匹諾曹云  
這篇文章主要介紹了Python拆分大型CSV文件代碼實例,文中通過示例代碼介紹的非常詳細,對大家的學習或者工作具有一定的參考學習價值,需要的朋友可以參考下

這篇文章主要介紹了Python拆分大型CSV文件代碼實例,文中通過示例代碼介紹的非常詳細,對大家的學習或者工作具有一定的參考學習價值,需要的朋友可以參考下

#!/usr/bin/env python3
# -*- coding:utf-8 -*-
# @FileName :Test.py
# @Software PyCharm

import os
import pandas as pd

# filename為文件路徑,file_num為拆分后的文件行數(shù)
# 根據(jù)是否有表頭執(zhí)行不同程序,默認有表頭的
def Data_split(filename,file_num,header=True):
  if header:
    # 設(shè)置每個文件需要有的行數(shù),初始化為1000W
    chunksize=10000
    data1=pd.read_table(filename,chunksize=chunksize,sep=',',encoding='gbk')
    # print(data1)
    # num表示總行數(shù)
    num=0
    for chunk in data1:
      num+=len(chunk)
    # print(num)
    # chunksize表示每個文件需要分配到的行數(shù)
    chunksize=round(num/file_num+1)
    # print(chunksize)
    # 分離文件名與擴展名os.path.split(filename)
    head,tail=os.path.split(filename)
    data2=pd.read_table(filename,chunksize=chunksize,sep=',',encoding='gbk')
    i=0
    for chunk in data2:
      chunk.to_csv('{0}_{1}{2}'.format(head,i,tail),header=None,index=False)
      print('保存第{0}個數(shù)據(jù)'.format(i))
      i+=1
  else:
    # 獲得每個文件需要的行數(shù)
    chunksize=10000
    data1=pd.read_table(filename,chunksize=chunksize,header=None,sep=',')
    num=0
    for chunk in data1:
      num+=len(chunk)
      chunksize=round(num/file_num+1)

      head,tail=os.path.split(filename)
      data2=pd.read_table(filename,chunksize=chunksize,header=None,sep=',')
      i=0
      for chunk in data2:
        chunk.to_csv('{0}_{1}{2}'.foemat(head,i,tail),header=None,index=False)
        print('保存第{0}個數(shù)據(jù)'.format(i))
        i+=1

filename='文件路徑'
#num為拆分為的文件個數(shù)
Data_split(filename,num,header=True)

以上就是本文的全部內(nèi)容,希望對大家的學習有所幫助,也希望大家多多支持腳本之家。

相關(guān)文章

  • 詳解Python如何優(yōu)雅地解析命令行

    詳解Python如何優(yōu)雅地解析命令行

    隨著我們編程經(jīng)驗的增長,對命令行的熟悉程度日漸加深,想來很多人會漸漸地體會到使用命令行帶來的高效率。本文將介紹Python解析命令行的兩種方法,需要的可以參考一下
    2022-06-06
  • .dcm格式文件軟件讀取及python處理詳解

    .dcm格式文件軟件讀取及python處理詳解

    今天小編就為大家分享一篇.dcm格式文件軟件讀取及python處理詳解,具有很好的參考價值,希望對大家有所幫助。一起跟隨小編過來看看吧
    2020-01-01
  • Python中tkinter的用戶登錄管理的實現(xiàn)

    Python中tkinter的用戶登錄管理的實現(xiàn)

    這篇文章主要介紹了Python中tkinter的用戶登錄管理的實現(xiàn),文中通過示例代碼介紹的非常詳細,對大家的學習或者工作具有一定的參考學習價值,需要的朋友們下面隨著小編來一起學習學習吧
    2021-04-04
  • Python 抓取微信公眾號賬號信息的方法

    Python 抓取微信公眾號賬號信息的方法

    搜狗微信搜索提供兩種類型的關(guān)鍵詞搜索,一種是搜索公眾號文章內(nèi)容,另一種是直接搜索微信公眾號。這篇文章主要介紹了Python 抓取微信公眾號賬號信息,需要的朋友可以參考下
    2019-06-06
  • Django 1.10以上版本 url 配置注意事項詳解

    Django 1.10以上版本 url 配置注意事項詳解

    這篇文章主要介紹了Django 1.10以上版本 url 配置注意事項詳解,文中通過示例代碼介紹的非常詳細,對大家的學習或者工作具有一定的參考學習價值,需要的朋友可以參考下
    2019-08-08
  • Python練習之操作MySQL數(shù)據(jù)庫

    Python練習之操作MySQL數(shù)據(jù)庫

    這篇文章主要介紹了Python練習之操作MySQL數(shù)據(jù)庫,文章通過如何創(chuàng)建MySQL數(shù)據(jù)表?如何向MySQL表中插入數(shù)據(jù)?如何查詢MySQL中的數(shù)據(jù)?的三個問題展開了詳細的內(nèi)容介紹
    2022-06-06
  • Python?模擬死鎖的常見實例詳解

    Python?模擬死鎖的常見實例詳解

    這篇文章主要為大家介紹了Python?模擬死鎖的常見實例詳解,有需要的朋友可以借鑒參考下,希望能夠有所幫助,祝大家多多進步,早日升職加薪
    2022-08-08
  • 用Python逐行分析文件方法

    用Python逐行分析文件方法

    在本篇文章里我們給大家分享了關(guān)于用Python逐行分析文件方法知識點,有需要的朋友們跟著學習下。
    2019-01-01
  • 解決pytorch 數(shù)據(jù)類型報錯的問題

    解決pytorch 數(shù)據(jù)類型報錯的問題

    這篇文章主要介紹了解決pytorch 數(shù)據(jù)類型報錯的問題,具有很好的參考價值,希望對大家有所幫助。一起跟隨小編過來看看吧
    2021-03-03
  • Python中跨越多個文件使用全局變量的方法

    Python中跨越多個文件使用全局變量的方法

    全局變量是不屬于函數(shù)范圍的變量,可以在整個程序中使用,這表明全局變量也可以在函數(shù)體內(nèi)部或外部使用,這篇文章主要介紹了Python中跨越多個文件使用全局變量,需要的朋友可以參考下
    2023-09-09

最新評論

高雄市| 岚皋县| 盈江县| 奉节县| 博爱县| 沭阳县| 中超| 汝南县| 峨边| 葫芦岛市| 民和| 长丰县| 大同县| 滁州市| 柘荣县| 从化市| 罗田县| 嘉鱼县| 宜城市| 措美县| 三河市| 霍林郭勒市| 百色市| 娄烦县| 扎囊县| 益阳市| 双峰县| 铜陵市| 楚雄市| 慈利县| 扶风县| 河南省| 淮北市| 浦北县| 广宗县| 夏津县| 井陉县| 肥东县| 黄梅县| 巴南区| 都昌县|