最新国产好看的视频,伊人天堂AV在线,国产Aaaaaa视频,蜜臀视频在线观看一区,人妻av色图,密臀久久久精品影片,青青视频免费观看毛片,久草在线观看视,国产三级精品色情在线

Python3實(shí)現(xiàn)將本地JSON大數(shù)據(jù)文件寫(xiě)入MySQL數(shù)據(jù)庫(kù)的方法

 更新時(shí)間:2018年06月13日 09:40:19   作者:layman2016  
這篇文章主要介紹了Python3實(shí)現(xiàn)將本地JSON大數(shù)據(jù)文件寫(xiě)入MySQL數(shù)據(jù)庫(kù)的方法,涉及Python針對(duì)json大數(shù)據(jù)文件的逐行讀取、mysql數(shù)據(jù)庫(kù)寫(xiě)入等相關(guān)操作技巧,需要的朋友可以參考下

本文實(shí)例講述了Python3實(shí)現(xiàn)將本地JSON大數(shù)據(jù)文件寫(xiě)入MySQL數(shù)據(jù)庫(kù)的方法。分享給大家供大家參考,具體如下:

最近導(dǎo)師給了一個(gè)yelp上的評(píng)論數(shù)據(jù),數(shù)據(jù)量達(dá)到3.55個(gè)G,如果進(jìn)行分析時(shí)直接使用本地文件,選擇python來(lái)分析,那么效率是非常低的;另一方面使用SQL來(lái)儲(chǔ)存文本文件最為安全,之前使用CSV,txt存儲(chǔ)的文本文件最后莫名其妙地出現(xiàn)一些奇怪字符,導(dǎo)致讀取數(shù)據(jù)分割時(shí)出現(xiàn)錯(cuò)亂。下面給出一個(gè)簡(jiǎn)單的代碼,將本地JSON文件內(nèi)容存入數(shù)據(jù)庫(kù)。

說(shuō)明:python版本為3.5,使用第三方庫(kù)為pymysql。因?yàn)閿?shù)據(jù)量比較大,不能一次性讀取到內(nèi)存(否則內(nèi)存報(bào)錯(cuò)),這里使用逐行讀取的方式。數(shù)據(jù)庫(kù)先創(chuàng)建后再使用以下代碼;

import json
import pymysql
# 讀取review數(shù)據(jù),并寫(xiě)入數(shù)據(jù)庫(kù)
# 導(dǎo)入數(shù)據(jù)庫(kù)成功,總共4736897條記錄
def prem(db):
  cursor = db.cursor()
  cursor.execute("SELECT VERSION()")
  data = cursor.fetchone()
  print("Database version : %s " % data) # 結(jié)果表明已經(jīng)連接成功
  cursor.execute("DROP TABLE IF EXISTS review") # 習(xí)慣性
  sql = """CREATE TABLE review (
       review_id VARCHAR(100),
       user_id VARCHAR(100),
       business_id VARCHAR(200),
       stars INT,
       text VARCHAR(10000) NOT NULL,
       useful INT,
       funny INT,
       cool INT)"""
  cursor.execute(sql) # 根據(jù)需要?jiǎng)?chuàng)建一個(gè)表格
def reviewdata_insert(db):
  with open('E:/data/yelp_data/dataset/review.json', encoding='utf-8') as f:
    i = 0
    while True:
      i += 1
      print(u'正在載入第%s行......' % i)
      try:
        lines = f.readline() # 使用逐行讀取的方法
        review_text = json.loads(lines) # 解析每一行數(shù)據(jù)
        result = []
        result.append((review_text['review_id'], review_text['user_id'],      review_text['business_id'],review_text['stars'], review_text['text'], review_text['useful'],
              review_text['funny'], review_text['cool']))
        print(result)
        inesrt_re = "insert into review(review_id, user_id, business_id, stars, text, useful,      funny, cool) values (%s, %s, %s, %s,%s, %s,%s, %s)"
        cursor = db.cursor()
        cursor.executemany(inesrt_re, result)
        db.commit()
      except Exception as e:
        db.rollback()
        print(str(e))
        break
if __name__ == "__main__": # 起到一個(gè)初始化或者調(diào)用函數(shù)的作用
  db = pymysql.connect("localhost", "root", "password(你的密碼)", "數(shù)據(jù)庫(kù)名稱", charset='utf8')
  cursor = db.cursor()
  prem(db)
  reviewdata_insert(db)
  cursor.close()

PS:這里再為大家推薦幾款比較實(shí)用的json在線工具供大家參考使用:

在線JSON代碼檢驗(yàn)、檢驗(yàn)、美化、格式化工具:
http://tools.jb51.net/code/json

JSON在線格式化工具:
http://tools.jb51.net/code/jsonformat

在線XML/JSON互相轉(zhuǎn)換工具:
http://tools.jb51.net/code/xmljson

json代碼在線格式化/美化/壓縮/編輯/轉(zhuǎn)換工具:
http://tools.jb51.net/code/jsoncodeformat

在線json壓縮/轉(zhuǎn)義工具:
http://tools.jb51.net/code/json_yasuo_trans

更多關(guān)于Python相關(guān)內(nèi)容感興趣的讀者可查看本站專題:《Python操作json技巧總結(jié)》、《Python+MySQL數(shù)據(jù)庫(kù)程序設(shè)計(jì)入門(mén)教程》、《Python常見(jiàn)數(shù)據(jù)庫(kù)操作技巧匯總》、《Python數(shù)學(xué)運(yùn)算技巧總結(jié)》、《Python數(shù)據(jù)結(jié)構(gòu)與算法教程》、《Python函數(shù)使用技巧總結(jié)》、《Python字符串操作技巧匯總》、《Python入門(mén)與進(jìn)階經(jīng)典教程》及《Python文件與目錄操作技巧匯總

希望本文所述對(duì)大家Python程序設(shè)計(jì)有所幫助。

相關(guān)文章

  • python實(shí)現(xiàn)手機(jī)銷售管理系統(tǒng)

    python實(shí)現(xiàn)手機(jī)銷售管理系統(tǒng)

    這篇文章主要為大家詳細(xì)介紹了python實(shí)現(xiàn)手機(jī)銷售管理系統(tǒng),具有一定的參考價(jià)值,感興趣的小伙伴們可以參考一下
    2019-03-03
  • 利用Python實(shí)現(xiàn)學(xué)生信息管理系統(tǒng)的完整實(shí)例

    利用Python實(shí)現(xiàn)學(xué)生信息管理系統(tǒng)的完整實(shí)例

    這篇文章主要給大家介紹了關(guān)于如何利用Python實(shí)現(xiàn)學(xué)生信息管理系統(tǒng)的相關(guān)資料,文中通過(guò)示例代碼介紹的非常詳細(xì),對(duì)大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值,需要的朋友們下面隨著小編來(lái)一起學(xué)習(xí)學(xué)習(xí)吧
    2020-12-12
  • 在python win系統(tǒng)下 打開(kāi)TXT文件的實(shí)例

    在python win系統(tǒng)下 打開(kāi)TXT文件的實(shí)例

    下面小編就為大家分享一篇在python win系統(tǒng)下 打開(kāi)TXT文件的實(shí)例,具有很好的參考價(jià)值,希望對(duì)大家有所幫助。一起跟隨小編過(guò)來(lái)看看吧
    2018-04-04
  • python中g(shù)lobal用法實(shí)例分析

    python中g(shù)lobal用法實(shí)例分析

    這篇文章主要介紹了python中g(shù)lobal用法,較為詳細(xì)的分析了global的功能并實(shí)例演示了相應(yīng)的使用技巧,需要的朋友可以參考下
    2015-04-04
  • python中進(jìn)程間通信詳細(xì)介紹

    python中進(jìn)程間通信詳細(xì)介紹

    大家好,本篇文章主要講的是python中進(jìn)程間通信詳細(xì)介紹,感興趣的同學(xué)趕快來(lái)看一看吧,對(duì)你有幫助的話記得收藏一下,方便下次瀏覽
    2021-12-12
  • 一篇超級(jí)全面的Python功能圖譜(推薦)

    一篇超級(jí)全面的Python功能圖譜(推薦)

    Python作為一種廣受歡迎的高級(jí)編程語(yǔ)言,不僅在基本語(yǔ)法上易于學(xué)習(xí),還擁有強(qiáng)大的標(biāo)準(zhǔn)庫(kù)和活躍的開(kāi)發(fā)社區(qū),本文詳細(xì)介紹了Python從基礎(chǔ)語(yǔ)法到高級(jí)應(yīng)用的全面功能,并通過(guò)實(shí)際案例和代碼示例展示了其在科學(xué)計(jì)算、Web開(kāi)發(fā)、機(jī)器學(xué)習(xí)等多個(gè)領(lǐng)域的應(yīng)用,需要的朋友可以參考下
    2024-09-09
  • Python實(shí)現(xiàn)統(tǒng)計(jì)圖像連通域的示例詳解

    Python實(shí)現(xiàn)統(tǒng)計(jì)圖像連通域的示例詳解

    這篇文章主要為大家詳細(xì)介紹了如何利用Python實(shí)現(xiàn)統(tǒng)計(jì)圖像連通域的功能,文中的示例代碼講解詳細(xì),感興趣的小伙伴可以跟隨小編一起了解一下
    2023-04-04
  • Python?PDF轉(zhuǎn)化wolrd代碼的寫(xiě)法小結(jié)

    Python?PDF轉(zhuǎn)化wolrd代碼的寫(xiě)法小結(jié)

    將PDF文件轉(zhuǎn)換為Word文檔的過(guò)程通常需要使用一些外部庫(kù)來(lái)實(shí)現(xiàn),因?yàn)镻ython本身并不直接支持這種轉(zhuǎn)換,這篇文章主要介紹了Python?PDF轉(zhuǎn)化wolrd代碼的寫(xiě)法小結(jié),需要的朋友可以參考下
    2024-06-06
  • python利用opencv如何實(shí)現(xiàn)答題卡自動(dòng)判卷

    python利用opencv如何實(shí)現(xiàn)答題卡自動(dòng)判卷

    由于工作需要,最近在研究關(guān)于如何通過(guò)程序識(shí)別答題卡的客觀題的答案,所以下面這篇文章主要介紹了python利用opencv如何實(shí)現(xiàn)答題卡自動(dòng)判卷的相關(guān)資料,需要的朋友可以參考下
    2021-08-08
  • Python中Wxpython實(shí)現(xiàn)剪切、復(fù)制、粘貼和文件打開(kāi)示例

    Python中Wxpython實(shí)現(xiàn)剪切、復(fù)制、粘貼和文件打開(kāi)示例

    我們?cè)赑ython開(kāi)發(fā)中中,可以使用WxPython庫(kù)來(lái)創(chuàng)建GUI應(yīng)用程序,并實(shí)現(xiàn)剪切、復(fù)制、粘貼和文件打開(kāi)功能,本文就來(lái)介紹一下,感興趣的可以了解一下
    2024-03-03

最新評(píng)論

方城县| 清流县| 色达县| 辽阳市| 沙河市| 都匀市| 稷山县| 孟村| 乌兰浩特市| 兴海县| 洛南县| 朝阳市| 榆林市| 阜城县| 宁德市| 苍南县| 济阳县| 花莲市| 镇沅| 龙岩市| 泽州县| 巫山县| 顺昌县| 灵寿县| 鄄城县| 江永县| 泸西县| 眉山市| 探索| 璧山县| 太白县| 杭锦旗| 永平县| 滨州市| 宁武县| 遵义县| 兰州市| 方山县| 镶黄旗| 交城县| 偏关县|