最新国产好看的视频,伊人天堂AV在线,国产Aaaaaa视频,蜜臀视频在线观看一区,人妻av色图,密臀久久久精品影片,青青视频免费观看毛片,久草在线观看视,国产三级精品色情在线

使用PyTorch將文件夾下的圖片分為訓練集和驗證集實例

 更新時間:2020年01月08日 14:02:50   作者:xgbm_k  
今天小編就為大家分享一篇使用PyTorch將文件夾下的圖片分為訓練集和驗證集實例,具有很好的參考價值,希望對大家有所幫助。一起跟隨小編過來看看吧

PyTorch提供了ImageFolder的類來加載文件結構如下的圖片數(shù)據(jù)集:

root/dog/xxx.png
root/dog/xxy.png
root/dog/xxz.png

root/cat/123.png
root/cat/nsdf3.png
root/cat/asd932_.png

使用這個類的問題在于無法將訓練集(training dataset)和驗證集(validation dataset)分開。我寫了兩個類來完成這個工作。

import os
import torch
from torch.utils.data import Dataset, DataLoader
from torchvision.transforms import ToTensor, Resize, Compose
from PIL import Image
from sklearn.model_selection import train_test_split

class ImageFolderSplitter:
  # images should be placed in folders like:
  # --root
  # ----root\dogs
  # ----root\dogs\image1.png
  # ----root\dogs\image2.png
  # ----root\cats
  # ----root\cats\image1.png
  # ----root\cats\image2.png  
  # path: the root of the image folder
  def __init__(self, path, train_size = 0.8):
    self.path = path
    self.train_size = train_size
    self.class2num = {}
    self.num2class = {}
    self.class_nums = {}
    self.data_x_path = []
    self.data_y_label = []
    self.x_train = []
    self.x_valid = []
    self.y_train = []
    self.y_valid = []
    for root, dirs, files in os.walk(path):
      if len(files) == 0 and len(dirs) > 1:
        for i, dir1 in enumerate(dirs):
          self.num2class[i] = dir1
          self.class2num[dir1] = i
      elif len(files) > 1 and len(dirs) == 0:
        category = ""
        for key in self.class2num.keys():
          if key in root:
            category = key
            break
        label = self.class2num[category]
        self.class_nums[label] = 0
        for file1 in files:
          self.data_x_path.append(os.path.join(root, file1))
          self.data_y_label.append(label)
          self.class_nums[label] += 1
      else:
        raise RuntimeError("please check the folder structure!")
    self.x_train, self.x_valid, self.y_train, self.y_valid = train_test_split(self.data_x_path, self.data_y_label, shuffle = True, train_size = self.train_size)

  def getTrainingDataset(self):
    return self.x_train, self.y_train

  def getValidationDataset(self):
    return self.x_valid, self.y_valid

class DatasetFromFilename(Dataset):
  # x: a list of image file full path
  # y: a list of image categories
  def __init__(self, x, y, transforms = None):
    super(DatasetFromFilename, self).__init__()
    self.x = x
    self.y = y
    if transforms == None:
      self.transforms = ToTensor()
    else:
      self.transforms = transforms
    
  def __len__(self):
    return len(self.x)

  def __getitem__(self, idx):
    img = Image.open(self.x[idx])
    img = img.convert("RGB")
    return self.transforms(img), torch.tensor([[self.y[idx]]])

# test code
# splitter = ImageFolderSplitter("for_test")
# transforms = Compose([Resize((51, 51)), ToTensor()])
# x_train, y_train = splitter.getTrainingDataset()
# training_dataset = DatasetFromFilename(x_train, y_train, transforms=transforms)
# training_dataloader = DataLoader(training_dataset, batch_size=2, shuffle=True)
# x_valid, y_valid = splitter.getValidationDataset()
# validation_dataset = DatasetFromFilename(x_valid, y_valid, transforms=transforms)
# validation_dataloader = DataLoader(validation_dataset, batch_size=2, shuffle=True)
# for x, y in training_dataloader:
#   print(x.shape, y.shape)

更多的代碼可以在我的Github reop下找到。

相關文章

  • python如何解析復雜sql,實現(xiàn)數(shù)據(jù)庫和表的提取的實例剖析

    python如何解析復雜sql,實現(xiàn)數(shù)據(jù)庫和表的提取的實例剖析

    這篇文章主要介紹了python如何解析復雜sql,實現(xiàn)數(shù)據(jù)庫和表的提取的實例剖析,具有很好的參考價值,希望對大家有所幫助。一起跟隨小編過來看看吧
    2020-05-05
  • python類特殊方法使用示例講解

    python類特殊方法使用示例講解

    這篇文章主要為大家介紹了python類特殊方法使用示例講解,有需要的朋友可以借鑒參考下,希望能夠有所幫助,祝大家多多進步,早日升職加薪
    2023-06-06
  • Python3使用requests登錄人人影視網(wǎng)站的方法

    Python3使用requests登錄人人影視網(wǎng)站的方法

    通過本文給大家介紹python代碼實現(xiàn)使用requests登錄網(wǎng)站的過程。非常具有參考價值,感興趣的朋友一起學習吧
    2016-05-05
  • Python基礎教程之增加和去除數(shù)字的千位分隔符

    Python基礎教程之增加和去除數(shù)字的千位分隔符

    千位分隔符其實就是數(shù)字中的逗號,下面這篇文章主要給大家介紹了關于Python基礎教程之增加和去除數(shù)字的千位分隔符,文中通過實例代碼介紹的非常詳細,需要的朋友可以參考下
    2023-01-01
  • python -v 報錯問題的解決方法

    python -v 報錯問題的解決方法

    在本篇文章里小編給大家整理了關于python -v 報錯問題的解決方法及相關知識點,有興趣的朋友們可以學習下。
    2020-09-09
  • python 批量解壓壓縮文件的實例代碼

    python 批量解壓壓縮文件的實例代碼

    這篇文章主要介紹了python 批量解壓壓縮文件的實例代碼,代碼簡單易懂,非常不錯,具有一定的參考借鑒價值,需要的朋友可以參考下
    2019-06-06
  • Windows下安裝python2.7及科學計算套裝

    Windows下安裝python2.7及科學計算套裝

    這篇文章主要向大家介紹的是在windows系統(tǒng)下安裝python 2.7以及numpy安裝、six安裝、dateutil安裝、pyparsing安裝、matplotlib安裝和scipy安裝的方法,分享給大家,需要的小伙伴可以參考下,相對來說,windows下的安裝還是比較簡單的。
    2015-03-03
  • python中3種等待元素出現(xiàn)的方法總結

    python中3種等待元素出現(xiàn)的方法總結

    發(fā)現(xiàn)太多人不會用等待了,小編今天實在是忍不住要給大家講講等待的必要性,下面這篇文章主要給大家介紹了關于python中3種等待元素出現(xiàn)的方法,需要的朋友可以參考下
    2022-03-03
  • Python confluent kafka客戶端配置kerberos認證流程詳解

    Python confluent kafka客戶端配置kerberos認證流程詳解

    這篇文章主要介紹了Python confluent kafka客戶端配置kerberos認證流程詳解,文中通過示例代碼介紹的非常詳細,對大家的學習或者工作具有一定的參考學習價值,需要的朋友可以參考下
    2020-10-10
  • 詳解如何修改python中字典的鍵和值

    詳解如何修改python中字典的鍵和值

    這篇文章主要介紹了詳解如何修改python中字典的鍵和值,文中通過示例代碼介紹的非常詳細,對大家的學習或者工作具有一定的參考學習價值,需要的朋友們下面隨著小編來一起學習學習吧
    2020-09-09

最新評論

清丰县| 江川县| 凤城市| 惠州市| 临泉县| 德保县| 汉沽区| 株洲县| 仪陇县| 日喀则市| 龙岩市| 叶城县| 杭锦旗| 松溪县| 交城县| 醴陵市| 丹阳市| 辽中县| 兰溪市| 平阴县| 南城县| 南汇区| 靖宇县| 白山市| 太白县| 华蓥市| 宜都市| 孟津县| 丰城市| 元谋县| 全州县| 鹤岗市| 成都市| 福清市| 东丰县| 衡山县| 金塔县| 雅江县| 观塘区| 秭归县| 富顺县|