最新国产好看的视频,伊人天堂AV在线,国产Aaaaaa视频,蜜臀视频在线观看一区,人妻av色图,密臀久久久精品影片,青青视频免费观看毛片,久草在线观看视,国产三级精品色情在线

pytorch中的dataset用法詳解

 更新時(shí)間:2022年01月26日 15:49:34   作者:咕嘟咕嘟_?  
這篇文章主要介紹了pytorch的dataset用法詳解,當(dāng)我們繼承了一個(gè)?Dataset類之后,我們需要重寫?len?方法,該方法提供了dataset的大?。?getitem?方法,?該方法支持從?0?到?len(self)的索引,下面來(lái)看看附有代碼的講解吧,希望對(duì)你的學(xué)習(xí)或者工作有所幫助

1.torch.utils.data 里面的dataset使用方法

當(dāng)我們繼承了一個(gè) Dataset類之后,我們需要重寫 len 方法,該方法提供了dataset的大小; getitem 方法, 該方法支持從 0 到 len(self)的索引

from torch.utils.data import Dataset, DataLoader
import torch

class MyDataset(Dataset):
? ? """
? ? ? ? 下載數(shù)據(jù)、初始化數(shù)據(jù),都可以在這里完成
? ? """

? ? def __init__(self):
? ? ? ? self.x = torch.linspace(11,20,10)
? ? ? ? self.y = torch.linspace(1,10,10)
? ? ? ? self.len = len(self.x)

? ? def __getitem__(self, index):
? ? ? ? return self.x[index], self.y[index]

? ? def __len__(self):
? ? ? ? return self.len


# 實(shí)例化這個(gè)類,然后我們就得到了Dataset類型的數(shù)據(jù),記下來(lái)就將這個(gè)類傳給DataLoader,就可以了。
mydataset = MyDataset()#[return:
# ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ?# (tensor(x1),tensor(y1));
# ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ?# (tensor(x2),tensor(y2));
# ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ?# ......

train_loader2 = DataLoader(dataset=mydataset,
? ? ? ? ? ? ? ? ? ? ? ? ? ?batch_size=5,
? ? ? ? ? ? ? ? ? ? ? ? ? ?shuffle=False)

for epoch in range(3): ?# 訓(xùn)練所有!整套!數(shù)據(jù) 3 次
? ? for step,(batch_x,batch_y) in enumerate(train_loader2): ?# 每一步 loader 釋放一小批數(shù)據(jù)用來(lái)學(xué)習(xí)
? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? #return:
? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? #(tensor(x1,x2,x3,x4,x5),tensor(y1,y2,y3,y4,y5))
? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? #(tensor(x6,x7,x8,x9,x10),tensor(y6,y7,y8,y9,y10))
? ? ? ? # 假設(shè)這里就是你訓(xùn)練的地方...

? ? ? ? # 打出來(lái)一些數(shù)據(jù)
? ? ? ? print('Epoch: ', epoch, '| Step:', step, '| batch x: ', batch_x.numpy(), '| batch y: ', batch_y.numpy())

2.torchvision.datasets的使用方法

torchvisiondatasets中所有封裝的數(shù)據(jù)集都是torch.utils.data.Dataset的子類,它們都實(shí)現(xiàn)了__getitem__和__len__方法。因此,它們都可以用torch.utils.data.DataLoader進(jìn)行數(shù)據(jù)加載。

用法1:使用官方數(shù)據(jù)集

可選數(shù)據(jù)集參考:https://www.pianshen.com/article/9695297328/

代碼:

torchvision.datasets.CIFAR10("./dataset", train=False, transform=torchvision.transforms.ToTensor())

root (string): 表示數(shù)據(jù)集的根目錄,其中根目錄存在CIFAR10/processed/training.pt和CIFAR10/processed/test.pt的子目錄
train (bool, optional): 如果為True,則從training.pt創(chuàng)建數(shù)據(jù)集,否則從test.pt創(chuàng)建數(shù)據(jù)集
download (bool, optional): 如果為True,則從internet下載數(shù)據(jù)集并將其放入根目錄。如果數(shù)據(jù)集已下載,則不會(huì)再次下載
transform (callable, optional): 接收PIL圖片并返回轉(zhuǎn)換后版本圖片的轉(zhuǎn)換函數(shù)
target_transform (callable, optional): 接收PIL接收目標(biāo)并對(duì)其進(jìn)行變換的轉(zhuǎn)換函數(shù)
import torchvision

# 準(zhǔn)備的測(cè)試數(shù)據(jù)集
from torch.utils.data import DataLoader
from torch.utils.tensorboard import SummaryWriter

test_data = torchvision.datasets.CIFAR10("./dataset", train=False, transform=torchvision.transforms.ToTensor())

test_loader = DataLoader(dataset=test_data, batch_size=64, shuffle=True, num_workers=0, drop_last=True)

# 測(cè)試數(shù)據(jù)集中第一張圖片及target
img, target = test_data[0]
print(img.shape)
print(target)

writer = SummaryWriter("dataloader")
for epoch in range(2):
? ? step = 0
? ? for data in test_loader:
? ? ? ? imgs, targets = data
? ? ? ? # print(imgs.shape)
? ? ? ? # print(targets)
? ? ? ? writer.add_images("Epoch: {}".format(epoch), imgs, step)
? ? ? ? step = step + 1

writer.close()

用法2:ImageFolder通用的自己數(shù)據(jù)集加載器

一個(gè)通用的數(shù)據(jù)加載器,數(shù)據(jù)集中的數(shù)據(jù)以以下方式組織

root/dog/xxx.png
root/dog/xxy.png
root/dog/xxz.png

root/cat/123.png
root/cat/nsdf3.png
root/cat/asd932_.png
torchvision.datasets.ImageFolder(root="root folder path", [transform, target_transform])

ImageFolder有以下成員變量:

  • self.classes - 用一個(gè)list保存 類名
  • self.class_to_idx - 類名對(duì)應(yīng)的 索引
  • self.imgs - 保存(img-path, class) tuple的list

該方法可以結(jié)合torch.utils.data.Subset使用 ,以根據(jù)示例索引將您的ImageFolder數(shù)據(jù)集分為訓(xùn)練和測(cè)試。

orig_set = torchvision.datasets.Imagefolder('dataset/') ?# your dataset
n = len(orig_set) ?# total number of examples
n_test = int(0.1 * n) ?# take ~10% for test
test_set = torch.utils.data.Subset(orig_set, range(n_test)) ?# take first 10%
train_set = torch.utils.data.Subset(orig_set, range(n_test, n)) ?# take the rest?

到此這篇關(guān)于pytorchdataset用法詳解的文章就介紹到這了,更多相關(guān)pytorch的dataset用法內(nèi)容請(qǐng)搜索腳本之家以前的文章或繼續(xù)瀏覽下面的相關(guān)文章希望大家以后多多支持腳本之家!

相關(guān)文章

  • tensorflow學(xué)習(xí)筆記之簡(jiǎn)單的神經(jīng)網(wǎng)絡(luò)訓(xùn)練和測(cè)試

    tensorflow學(xué)習(xí)筆記之簡(jiǎn)單的神經(jīng)網(wǎng)絡(luò)訓(xùn)練和測(cè)試

    這篇文章主要為大家詳細(xì)介紹了tensorflow學(xué)習(xí)筆記,用簡(jiǎn)單的神經(jīng)網(wǎng)絡(luò)來(lái)訓(xùn)練和測(cè)試,具有一定的參考價(jià)值,感興趣的小伙伴們可以參考一下
    2018-04-04
  • pycharm設(shè)置虛擬環(huán)境與更換鏡像教程

    pycharm設(shè)置虛擬環(huán)境與更換鏡像教程

    這篇文章主要介紹了pycharm設(shè)置虛擬環(huán)境與更換鏡像教程,本文給大家介紹的非常詳細(xì),對(duì)大家的學(xué)習(xí)或工作具有一定的參考借鑒價(jià)值,需要的朋友可以參考下
    2021-09-09
  • Django學(xué)習(xí)筆記之ORM基礎(chǔ)教程

    Django學(xué)習(xí)筆記之ORM基礎(chǔ)教程

    ORM,即Object-Relational Mapping(對(duì)象關(guān)系映射),它的作用是在關(guān)系型數(shù)據(jù)庫(kù)和業(yè)務(wù)實(shí)體對(duì)象之間作一個(gè)映射,下面這篇文章主要給大家介紹了關(guān)于Django學(xué)習(xí)筆記之ORM基礎(chǔ)教程的相關(guān)資料,需要的朋友可以參考借鑒,下面來(lái)一起看看吧。
    2018-03-03
  • Python 可視化matplotlib模塊基礎(chǔ)知識(shí)

    Python 可視化matplotlib模塊基礎(chǔ)知識(shí)

    這篇文章主要給大家分享的是Python 可視化matplotlib模塊基礎(chǔ)知識(shí),文章對(duì)matplotlib.pyplot 模塊繪制相關(guān)如折線、柱狀、散點(diǎn)、圓餅圖表進(jìn)行簡(jiǎn)單地學(xué)習(xí),具有一定的參考價(jià)值,需要的朋友可以參考一下
    2021-12-12
  • 自定義Django_rest_framework_jwt登陸錯(cuò)誤返回的解決

    自定義Django_rest_framework_jwt登陸錯(cuò)誤返回的解決

    這篇文章主要介紹了自定義Django_rest_framework_jwt登陸錯(cuò)誤返回的解決,文中通過(guò)示例代碼介紹的非常詳細(xì),對(duì)大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值,需要的朋友們下面隨著小編來(lái)一起學(xué)習(xí)學(xué)習(xí)吧
    2020-10-10
  • 最新評(píng)論

    丰原市| 鹤庆县| 辉县市| 西畴县| 特克斯县| 隆回县| 孝感市| 鹤壁市| 无为县| 南投市| 罗城| 班玛县| 双城市| 张家港市| 林甸县| 河间市| 泾阳县| 正定县| 大同县| 清苑县| 南昌市| 隆昌县| 旬阳县| 抚顺县| 开原市| 肇东市| 大田县| 海门市| 辛集市| 醴陵市| 屏南县| 虎林市| 内乡县| 嘉黎县| 陆川县| 海门市| 大姚县| 抚松县| 汉中市| 庆安县| 壤塘县|