最新国产好看的视频,伊人天堂AV在线,国产Aaaaaa视频,蜜臀视频在线观看一区,人妻av色图,密臀久久久精品影片,青青视频免费观看毛片,久草在线观看视,国产三级精品色情在线

python多線程方法詳解

 更新時(shí)間:2022年01月18日 09:28:48   作者:python_rser  
大家好,本篇文章主要講的是python多線程方法詳解,感興趣的同學(xué)趕快來(lái)看一看吧,對(duì)你有幫助的話記得收藏一下

處理多個(gè)數(shù)據(jù)和多文件時(shí),使用for循環(huán)的速度非常慢,此時(shí)需要用多線程來(lái)加速運(yùn)行進(jìn)度,常用的模塊為multiprocess和joblib,下面對(duì)兩種包我常用的方法進(jìn)行說(shuō)明。

1、模塊安裝

pip install multiprocessing
pip install joblib

2、以分塊計(jì)算NDVI為例

首先導(dǎo)入需要的包

import numpy as np
from osgeo import gdal
import time
from multiprocessing import cpu_count
from multiprocessing import Pool
from joblib import Parallel, delayed

定義GdalUtil類(lèi),以讀取遙感數(shù)據(jù)

class GdalUtil:
    def __init__(self):
        pass
    @staticmethod
    def read_file(raster_file, read_band=None):
        """讀取柵格數(shù)據(jù)"""
        # 注冊(cè)柵格驅(qū)動(dòng)
        gdal.AllRegister()
        gdal.SetConfigOption('gdal_FILENAME_IS_UTF8', 'YES')
        # 打開(kāi)輸入圖像
        dataset = gdal.Open(raster_file, gdal.GA_ReadOnly)
        if dataset == None:
            print('打開(kāi)圖像{0} 失敗.\n', raster_file)
        # 列
        raster_width = dataset.RasterXSize
        # 行
        raster_height = dataset.RasterYSize
        # 讀取數(shù)據(jù)
        if read_band == None:
            data_array = dataset.ReadAsArray(0, 0, raster_width, raster_height)
        else:
            band = dataset.GetRasterBand(read_band)
            data_array = band.ReadAsArray(0, 0, raster_width, raster_height)
        return data_array
 
    @staticmethod
    def read_block_data(dataset, band_num, cols_read, rows_read, start_col=0, start_row=0):
        band = dataset.GetRasterBand(band_num)
        res_data = band.ReadAsArray(start_col, start_row, cols_read, rows_read)
        return res_data
 
    @staticmethod
    def get_raster_band(raster_path):
        # 注冊(cè)柵格驅(qū)動(dòng)
        gdal.AllRegister()
        gdal.SetConfigOption('gdal_FILENAME_IS_UTF8', 'YES')
        # 打開(kāi)輸入圖像
        dataset = gdal.Open(raster_path, gdal.GA_ReadOnly)
        if dataset == None:
            print('打開(kāi)圖像{0} 失敗.\n', raster_path)
        raster_band = dataset.RasterCount
        return raster_band
 
    @staticmethod
    def get_file_size(raster_path):
        """獲取柵格仿射變換參數(shù)"""
        # 注冊(cè)柵格驅(qū)動(dòng)
        gdal.AllRegister()
        gdal.SetConfigOption('gdal_FILENAME_IS_UTF8', 'YES')
 
        # 打開(kāi)輸入圖像
        dataset = gdal.Open(raster_path, gdal.GA_ReadOnly)
        if dataset == None:
            print('打開(kāi)圖像{0} 失敗.\n', raster_path)
        # 列
        raster_width = dataset.RasterXSize
        # 行
        raster_height = dataset.RasterYSize
        return raster_width, raster_height
 
    @staticmethod
    def get_file_geotransform(raster_path):
        """獲取柵格仿射變換參數(shù)"""
        # 注冊(cè)柵格驅(qū)動(dòng)
        gdal.AllRegister()
        gdal.SetConfigOption('gdal_FILENAME_IS_UTF8', 'YES')
 
        # 打開(kāi)輸入圖像
        dataset = gdal.Open(raster_path, gdal.GA_ReadOnly)
        if dataset == None:
            print('打開(kāi)圖像{0} 失敗.\n', raster_path)
 
        # 獲取輸入圖像仿射變換參數(shù)
        input_geotransform = dataset.GetGeoTransform()
        return input_geotransform
 
    @staticmethod
    def get_file_proj(raster_path):
        """獲取柵格圖像空間參考"""
        # 注冊(cè)柵格驅(qū)動(dòng)
        gdal.AllRegister()
        gdal.SetConfigOption('gdal_FILENAME_IS_UTF8', 'YES')
 
        # 打開(kāi)輸入圖像
        dataset = gdal.Open(raster_path, gdal.GA_ReadOnly)
        if dataset == None:
            print('打開(kāi)圖像{0} 失敗.\n', raster_path)
 
        # 獲取輸入圖像空間參考
        input_project = dataset.GetProjection()
        return input_project
 
    @staticmethod
    def write_file(dataset, geotransform, project, output_path, out_format='GTiff', eType=gdal.GDT_Float32):
        """寫(xiě)入柵格"""
        if np.ndim(dataset) == 3:
            out_band, out_rows, out_cols = dataset.shape
        else:
            out_band = 1
            out_rows, out_cols = dataset.shape
 
        # 創(chuàng)建指定輸出格式的驅(qū)動(dòng)
        out_driver = gdal.GetDriverByName(out_format)
        if out_driver == None:
            print('格式%s 不支持Creat()方法.\n', out_format)
            return
 
        out_dataset = out_driver.Create(output_path, xsize=out_cols,
                                        ysize=out_rows, bands=out_band,
                                        eType=eType)
        # 設(shè)置輸出圖像的仿射參數(shù)
        out_dataset.SetGeoTransform(geotransform)
 
        # 設(shè)置輸出圖像的投影參數(shù)
        out_dataset.SetProjection(project)
 
        # 寫(xiě)出數(shù)據(jù)
        if out_band == 1:
            out_dataset.GetRasterBand(1).WriteArray(dataset)
        else:
            for i in range(out_band):
                out_dataset.GetRasterBand(i + 1).WriteArray(dataset[i])
        del out_dataset

定義計(jì)算NDVI的函數(shù)

def cal_ndvi(multi):
    '''
    計(jì)算高分NDVI
    :param multi:格式為列表,依次包含[遙感文件路徑,開(kāi)始行號(hào),開(kāi)始列號(hào),待讀的行數(shù),待讀的列數(shù)]
    :return: NDVI數(shù)組
    '''
    input_file, start_col, start_row, cols_step, rows_step = multi
    dataset = gdal.Open(input_file, gdal.GA_ReadOnly)
    nir_data = GdalUtil.read_block_data(dataset, 4, cols_step, rows_step, start_col=start_col, start_row=start_row)
    red_data = GdalUtil.read_block_data(dataset, 3, cols_step, rows_step, start_col=start_col, start_row=start_row)
    ndvi = (nir_data - red_data) / (nir_data + red_data)
    ndvi[(ndvi > 1.5) | (ndvi < -1)] = 0
    return ndvi
定義主函數(shù)
if __name__ == "__main__":
    input_file = r'D:\originalData\GF1\namucuo2021.tif'
    output_file = r'D:\originalData\GF1\namucuo2021_ndvi.tif'
    method = 'joblib'
    # method = 'multiprocessing'
    # 獲取文件主要信息
    raster_cols, raster_rows = GdalUtil.get_file_size(input_file)
    geotransform = GdalUtil.get_file_geotransform(input_file)
    project = GdalUtil.get_file_proj(input_file)
    # 定義分塊大小
    rows_block_size = 50
    cols_block_size = 50
    multi = []
    for j in range(0, raster_rows, rows_block_size):
        for i in range(0, raster_cols, cols_block_size):
            if j + rows_block_size < raster_rows:
                rows_step = rows_block_size
            else:
                rows_step = raster_rows - j
            # 數(shù)據(jù)橫向步長(zhǎng)
            if i + cols_block_size < raster_cols:
                cols_step = cols_block_size
            else:
                cols_step = raster_cols - i
            temp_multi = [input_file, i, j, cols_step, rows_step]
            multi.append(temp_multi)
 
    t1 = time.time()
    if method == 'multiprocessing':
        # multiprocessing方法
        pool = Pool(processes=cpu_count()-1)
        # 注意map函數(shù)中傳入的參數(shù)應(yīng)該是可迭代對(duì)象,如list;返回值為list
        res = pool.map(cal_ndvi, multi)
        pool.close()
        pool.join()
    else:
        # joblib方法
        res = Parallel(n_jobs=-1)(delayed(cal_ndvi)(input_list) for input_list in multi)
 
    t2 = time.time()
    print("Total time:" + (t2 - t1).__str__())
 
    # 將multiprocessing中的結(jié)果提取出來(lái),放回對(duì)應(yīng)的矩陣位置中
    out_data = np.zeros([raster_rows, raster_cols], dtype='float')
    for result, input_multi in zip(res, multi):
        start_col = input_multi[1]
        start_row = input_multi[2]
        cols_step = input_multi[3]
        rows_step = input_multi[4]
        out_data[start_row:start_row + rows_step, start_col:start_col + cols_step] = result
 
    GdalUtil.write_file(out_data, geotransform, project, output_file)

雙重for循環(huán)時(shí),兩層for循環(huán)都使用multiprocessing時(shí)會(huì)報(bào)錯(cuò),這時(shí)可以外層for循環(huán)使用joblib方法,內(nèi)層for循環(huán)改為multiprocessing方法,不會(huì)報(bào)錯(cuò)

到此這篇關(guān)于python多線程方法詳解的文章就介紹到這了,更多相關(guān)python多線程內(nèi)容請(qǐng)搜索腳本之家以前的文章或繼續(xù)瀏覽下面的相關(guān)文章希望大家以后多多支持腳本之家!

相關(guān)文章

  • python 字符串格式化的示例

    python 字符串格式化的示例

    這篇文章主要介紹了python 字符串格式化的示例,幫助大家更好的理解和使用python處理字符串,感興趣的朋友可以了解下
    2020-09-09
  • Sanic框架基于類(lèi)的視圖用法示例

    Sanic框架基于類(lèi)的視圖用法示例

    這篇文章主要介紹了Sanic框架基于類(lèi)的視圖用法,結(jié)合實(shí)例形式分析了Sanic框架基于類(lèi)的視圖定義、使用及相關(guān)路由操作技巧與注意事項(xiàng),需要的朋友可以參考下
    2018-07-07
  • Python進(jìn)階:生成器 懶人版本的迭代器詳解

    Python進(jìn)階:生成器 懶人版本的迭代器詳解

    這篇文章主要介紹了Python進(jìn)階:生成器 懶人版本的迭代器詳解,文中通過(guò)示例代碼介紹的非常詳細(xì),對(duì)大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值,需要的朋友可以參考下
    2019-06-06
  • python獲取本機(jī)所有IP地址的方法

    python獲取本機(jī)所有IP地址的方法

    這篇文章主要為大家詳細(xì)介紹了python獲取本機(jī)所有IP地址的方法,具有一定的參考價(jià)值,感興趣的小伙伴們可以參考一下
    2018-12-12
  • Pycharm中如何編寫(xiě)B(tài)ash批處理命令

    Pycharm中如何編寫(xiě)B(tài)ash批處理命令

    這篇文章主要介紹了Pycharm中如何編寫(xiě)B(tài)ash批處理命令,具有很好的參考價(jià)值,希望對(duì)大家有所幫助,如有錯(cuò)誤或未考慮完全的地方,望不吝賜教
    2024-06-06
  • Python timeit模塊原理及使用方法

    Python timeit模塊原理及使用方法

    這篇文章主要介紹了Python timeit模塊原理及使用方法,文中通過(guò)示例代碼介紹的非常詳細(xì),對(duì)大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值,需要的朋友可以參考下
    2020-10-10
  • TensorFlow-gpu和opencv安裝詳細(xì)教程

    TensorFlow-gpu和opencv安裝詳細(xì)教程

    這篇文章主要介紹了TensorFlow-gpu和opencv安裝過(guò)程,本文給大家介紹的非常詳細(xì),對(duì)大家的學(xué)習(xí)或工作具有一定的參考借鑒價(jià)值,需要的朋友可以參考下
    2020-06-06
  • 關(guān)于Python中幾個(gè)有趣的函數(shù)和推導(dǎo)式解析

    關(guān)于Python中幾個(gè)有趣的函數(shù)和推導(dǎo)式解析

    這篇文章主要介紹了關(guān)于Python中幾個(gè)有趣的函數(shù)和推導(dǎo)式解析,推導(dǎo)式comprehensions,又稱(chēng)解析式,是Python的一種獨(dú)有特性,推導(dǎo)式是可以從一個(gè)數(shù)據(jù)序列構(gòu)建另一個(gè)新的數(shù)據(jù)序列的結(jié)構(gòu)體,需要的朋友可以參考下
    2023-08-08
  • python對(duì)文件目錄的操作方法實(shí)例總結(jié)

    python對(duì)文件目錄的操作方法實(shí)例總結(jié)

    這篇文章主要介紹了python對(duì)文件目錄的操作方法,結(jié)合實(shí)例形式總結(jié)分析了Python針對(duì)文件目錄相關(guān)的遍歷、刪除、移動(dòng)、查找等操作技巧,需要的朋友可以參考下
    2019-06-06
  • 使用BeautifulSoup和Pandas進(jìn)行網(wǎng)頁(yè)數(shù)據(jù)抓取與清洗處理

    使用BeautifulSoup和Pandas進(jìn)行網(wǎng)頁(yè)數(shù)據(jù)抓取與清洗處理

    在數(shù)據(jù)分析和機(jī)器學(xué)習(xí)的項(xiàng)目中,數(shù)據(jù)的獲取,清洗和處理是非常關(guān)鍵的步驟,下面我們就來(lái)講講如何利用Python中的Beautiful Soup庫(kù)進(jìn)行這樣的操作吧
    2025-02-02

最新評(píng)論

瑞金市| 米脂县| 谢通门县| 邵武市| 庐江县| 武隆县| 镇平县| 乌什县| 车险| 柘荣县| 邛崃市| 上林县| 修文县| 台北县| 出国| 山丹县| 两当县| 石楼县| 双城市| 鸡东县| 平原县| 岚皋县| 巩义市| 阜宁县| 壶关县| 镇安县| 金阳县| 开封市| 北辰区| 南宁市| 汝阳县| 呼和浩特市| 右玉县| 获嘉县| 册亨县| 赣州市| 兴安县| 长治市| 水富县| 靖江市| 眉山市|