python3大文件解壓和基本操作
先說(shuō)下:所謂的大文件并不是壓縮文件有多大,幾十兆的文件而是解壓后幾百兆。其中就遇到解壓不成功的情況.、讀小文件時(shí)成功,大文件時(shí)失敗等
def unzip_to_txt_plus(zipfilename):
zfile = zipfile.ZipFile(zipfilename, 'r')
for filename in zfile.namelist():
data = zfile.read(filename)
# data = data.decode('gbk').encode('utf-8')
data = data.decode('gbk', 'ignore').encode('utf-8')
file = open(filename, 'w+b')
file.write(data)
file.close()
if __name__ == '__main__':
zipfilename = "E:\\share\\python_excel\\zip_to_database\\20171025.zip"
unzip_to_txt_plus(zipfilename)
注意參數(shù):‘ignore' ,因?yàn)槟J(rèn)是嚴(yán)格編碼,如果不加這個(gè)參數(shù)就會(huì)報(bào)錯(cuò)。
因?yàn)樵摵瘮?shù)已經(jīng)把文件編成utf-8 所以后面讀取文件時(shí)成功,下面貼出讀取大文件代碼(忽略數(shù)據(jù)庫(kù)相關(guān))
# - coding: utf-8 -
import csv
import linecache
import xlrd
import MySQLdb
def txt_todatabase(filename, linenum):
# with open(filename, "r", encoding="gbk") as csvfile:
# Read = csv.reader(csvfile)
# count =0
# for i in Read:
# # print(i)
# count += 1
# # print('hello')
# print(count)
count = linecache.getline(filename, linenum)
print(count)
# with open("new20171028.csv", "w", newline="") as datacsv:
# # dialect為打開(kāi)csv文件的方式,默認(rèn)是excel,delimiter="\t"參數(shù)指寫(xiě)入的時(shí)候的分隔符
# csvwriter = csv.writer(datacsv, dialect=("excel"))
# # csv文件插入一行數(shù)據(jù),把下面列表中的每一項(xiàng)放入一個(gè)單元格(可以用循環(huán)插入多行)
# csvwriter.writerow(["A", "B", "C", "D"])
def bigtxt_read(filename):
with open(filename, 'r', encoding='utf-8') as data:
count =0
while 1:
count += 1
line = data.readline()
if 1000000 == count:
print(line)
if not line:
break
print(count)
if __name__ == '__main__':
filename = '20171025.txt'
txt_todatabase(filename, 1000000)
bigtxt_read(filename)
經(jīng)過(guò)對(duì)比,發(fā)現(xiàn)兩個(gè)速度基本一樣快。兩百萬(wàn)行的數(shù)據(jù)是沒(méi)壓力的。
以上就是本文的全部?jī)?nèi)容,希望對(duì)大家的學(xué)習(xí)有所幫助,也希望大家多多支持腳本之家。
相關(guān)文章
使用Python制作一個(gè)簡(jiǎn)易的遠(yuǎn)控終端
這篇文章主要為大家詳細(xì)介紹了如何使用Python語(yǔ)言制作一個(gè)簡(jiǎn)易的遠(yuǎn)控終端,文中的示例代碼講解詳細(xì),具有一定的學(xué)習(xí)價(jià)值,感興趣的可以了解一下2023-04-04
python腳本監(jiān)聽(tīng)域名證書(shū)過(guò)期時(shí)間并通知消息到釘釘(最新推薦)
這篇文章主要介紹了python腳本監(jiān)聽(tīng)域名證書(shū)過(guò)期時(shí)間并通知消息到釘釘(最新推薦),本文給大家介紹的非常詳細(xì),對(duì)大家的學(xué)習(xí)或工作具有一定的參考借鑒價(jià)值,需要的朋友可以參考下2023-11-11
Python入門(mén)之三角函數(shù)sin()函數(shù)實(shí)例詳解
這篇文章主要介紹了Python入門(mén)之三角函數(shù)sin()函數(shù)實(shí)例詳解,分享了相關(guān)實(shí)例,具有一定參考價(jià)值,需要的朋友可以了解下。2017-11-11
python生成詞云的實(shí)現(xiàn)方法(推薦)
下面小編就為大家?guī)?lái)一篇python生成詞云的實(shí)現(xiàn)方法(推薦)。小編覺(jué)得挺不錯(cuò)的,現(xiàn)在就分享給大家,也給大家做個(gè)參考。一起跟隨小編過(guò)來(lái)看看吧2017-06-06
基于Python實(shí)現(xiàn)多人聊天室的示例代碼
這篇文章主要為大家詳細(xì)介紹了如何基于Python實(shí)現(xiàn)多人聊天室功能,文中的示例代碼講解詳細(xì),具有一定的借鑒價(jià)值,有需要的小伙伴可以參考下2025-02-02
python獲取當(dāng)前git的repo地址的示例代碼
大家好,當(dāng)談及版本控制系統(tǒng)時(shí),Git是最為廣泛使用的一種,而Python作為一門(mén)多用途的編程語(yǔ)言,在處理Git倉(cāng)庫(kù)時(shí)也展現(xiàn)了其強(qiáng)大的能力,本文給大家介紹了python獲取當(dāng)前git的repo地址的方法,需要的朋友可以參考下2024-09-09
Python繪圖庫(kù)Pyecharts可視化效果示例詳解
本文將帶您從零開(kāi)始,逐步掌握使用Pyecharts庫(kù)進(jìn)行數(shù)據(jù)可視化的技能,Pyecharts是一個(gè)基于Echarts的Python可視化庫(kù),能夠輕松創(chuàng)建各種交互式圖表和地圖,無(wú)論您是數(shù)據(jù)分析新手還是有經(jīng)驗(yàn)的開(kāi)發(fā)者,都能幫助您深入了解Pyecharts的使用2023-08-08

