最新国产好看的视频,伊人天堂AV在线,国产Aaaaaa视频,蜜臀视频在线观看一区,人妻av色图,密臀久久久精品影片,青青视频免费观看毛片,久草在线观看视,国产三级精品色情在线

python利用joblib進行并行數(shù)據(jù)處理的代碼示例

 更新時間:2023年10月08日 10:19:56   作者:m0_46483236  
在數(shù)據(jù)量比較大的情況下,數(shù)據(jù)預處理有時候會非常耗費時間,可以利用 joblib 中的 Parallel 和 delayed 進行多CPU并行處理,文中給出了詳細的代碼示例,需要的朋友可以參考下

在數(shù)據(jù)量比較大的情況下,數(shù)據(jù)預處理有時候會非常耗費時間。

可以利用 joblib 中的 Parallel 和 delayed 進行多CPU并行處理

示例如下:

import random
import os
from glob import glob
from tqdm import tqdm
from joblib import Parallel, delayed
import soundfile as sf
import pycantonese as pct
from opencc import OpenCC
cc = OpenCC('s2hk')
######### ljspeech ##########
def process_ljspeech_one_utterance(wav_path, text, mode, save_root):
    try:
        tmp = wav_path.split('/')
        spk = 'LJSpeech-1.1'
        wname = tmp[-1]
        tname = wname.replace('.wav','.txt')
        text_to_path = f'{save_root}/{mode}/{spk}/{tname}'
        os.makedirs(os.path.dirname(text_to_path), exist_ok=True)
        fp = open(text_to_path, 'w')
        fp.write(text)
        fp.close()
        wav_to_path = f'{save_root}/{mode}/{spk}/{wname}'
        _, fs = sf.read(wav_path)
        if fs != 16000:
            cmd = f'sox {wav_path} -r 16000 {wav_to_path}'
        else:
            cmd = f'cp {wav_path} {wav_to_path}'
        os.system(cmd)
        assert False
    except BaseException:
        return
wavs_root = 'source_data/LJSpeech/LJSpeech-1.1'
data = []
with open(f'{wavs_root}/metadata.csv', 'r') as f:
    lines = f.readlines()
    for line in lines:
        uttid = line.strip().split('|')[0]
        wav_path = f'{wavs_root}/wavs/{uttid}.wav'
        text = line.strip().split('|')[2]
        data.append([wav_path, text])
    f.close()
valid_data = random.sample(data, 100)
train_data = [dt for dt in data if dt not in valid_data]
Parallel(n_jobs=20)(delayed(process_ljspeech_one_utterance)(wav_path, text, mode='train', save_root='wavs/LJSpeech') for wav_path,text in tqdm(train_data))
Parallel(20)(delayed(process_ljspeech_one_utterance)(wav_path, text, mode='valid', save_root='wavs/LJSpeech') for wav_path,text in tqdm(valid_data))
# Parallel(n_jobs=20): 指定20個CPU(默認是分配給不同的CPU)
all_wavs = glob('wavs/LJSpeech/*/*/*.wav')
print(f'obtain {len(all_wavs)} wavs...')

到此這篇關于python利用joblib進行并行數(shù)據(jù)處理的代碼示例的文章就介紹到這了,更多相關python joblib并行數(shù)據(jù)處理內(nèi)容請搜索腳本之家以前的文章或繼續(xù)瀏覽下面的相關文章希望大家以后多多支持腳本之家!

相關文章

  • 使用Python在Word文檔中創(chuàng)建圖表的方法

    使用Python在Word文檔中創(chuàng)建圖表的方法

    在現(xiàn)代辦公自動化場景中,將數(shù)據(jù)可視化為圖表并嵌入 Word 文檔已成為一項常見需求,本文將深入探討如何使用 Python 在 Word 文檔中創(chuàng)建各種類型的圖表,并對其進行樣式定制和數(shù)據(jù)配置,需要的朋友可以參考下
    2026-03-03
  • python?argparse模塊傳參用法實例

    python?argparse模塊傳參用法實例

    這篇文章主要為大家介紹了python?argparse模塊傳參用法實例詳解,有需要的朋友可以借鑒參考下,希望能夠有所幫助,祝大家多多進步,早日升職加薪
    2022-06-06
  • 如何用python處理excel表格

    如何用python處理excel表格

    在本篇文章里小編給大家整理了關于python處理excel表格的詳細步驟內(nèi)容,需要的朋友們可以參考下。
    2020-06-06
  • python如何使用requests提交post請求并上傳文件(multipart/form-data)

    python如何使用requests提交post請求并上傳文件(multipart/form-data)

    這篇文章主要給大家介紹了關于python如何使用requests提交post請求并上傳文件(multipart/form-data)的相關資料,Python有許多庫支持,它們可以簡化HTTP上的數(shù)據(jù)傳輸,requests庫是最受歡迎的Python包之一,因為它在網(wǎng)絡刮削中被大量使用,需要的朋友可以參考下
    2023-11-11
  • pandas 中對特征進行硬編碼和onehot編碼的實現(xiàn)

    pandas 中對特征進行硬編碼和onehot編碼的實現(xiàn)

    今天小編就為大家分享一篇pandas 中對特征進行硬編碼和onehot編碼的實現(xiàn),具有很好的參考價值,希望對大家有所幫助。一起跟隨小編過來看看吧
    2019-12-12
  • 利用python求積分的實例

    利用python求積分的實例

    今天小編就為大家分享一篇利用python求積分的實例,具有很好的參考價值,希望對大家有所幫助。一起跟隨小編過來看看吧
    2019-07-07
  • python中路徑字符串斜杠替換方式

    python中路徑字符串斜杠替換方式

    這篇文章主要介紹了python中路徑字符串斜杠替換方式,具有很好的參考價值,希望對大家有所幫助。如有錯誤或未考慮完全的地方,望不吝賜教
    2023-03-03
  • python去除字符strip方法的實現(xiàn)

    python去除字符strip方法的實現(xiàn)

    Python中strip()方法用于去除字符串首尾的空白字符,包括空格、制表符和換行符,可以確保字符串沒有多余的空白字符,感興趣的可以了解一下
    2024-11-11
  • Python 在 VSCode 中使用 IPython Kernel 的方法詳解

    Python 在 VSCode 中使用 IPython Kernel 的方法詳解

    這篇文章主要介紹了Python 在 VSCode 中使用 IPython Kernel 的方法,本文通過實例代碼給大家介紹的非常詳細,對大家的學習或工作具有一定的參考借鑒價值,需要的朋友可以參考下
    2020-09-09
  • 使用Python批量將Word轉(zhuǎn)PDF的實現(xiàn)技巧

    使用Python批量將Word轉(zhuǎn)PDF的實現(xiàn)技巧

    我們在實際工作中很容易發(fā)現(xiàn),有些時候我們需要將Word文檔轉(zhuǎn)換為PDF文檔,如果只是一個文件,我們也只是需要通過Word提供的轉(zhuǎn)換為PDF文檔的功能就可以實現(xiàn)了,那么多個文檔如何實現(xiàn)呢,所以本文給大家介紹了Python批量將Word轉(zhuǎn)PDF的實現(xiàn)技巧,需要的朋友可以參考下
    2025-08-08

最新評論

峡江县| 台北市| 航空| 诸城市| 和林格尔县| 马龙县| 嵩明县| 陇西县| 铁岭市| 正定县| 娄烦县| 黔西| 揭东县| 肥城市| 岚皋县| 温宿县| 潮安县| 嘉荫县| 寻甸| 东莞市| 稷山县| 建水县| 华安县| 长宁县| 衡阳市| 安国市| 黔西县| 庆安县| 大荔县| 肇东市| 睢宁县| 柯坪县| 夏邑县| 航空| 方正县| 调兵山市| 呼伦贝尔市| 民勤县| 五常市| 龙胜| 宜丰县|