pytorch中構(gòu)建模型的3種方法詳解
可以使用以下3種方式構(gòu)建模型：
1，繼承nn.Module基類構(gòu)建自定義模型。
2，使用nn.Sequential按層順序構(gòu)建模型。
3，繼承nn.Module基類構(gòu)建模型并輔助應用模型容器進行封裝(nn.Sequential,nn.ModuleList,nn.ModuleDict)。
其中 第1種方式最為常見，第2種方式最簡單，第3種方式最為靈活也較為復雜。推薦使用第1種方式構(gòu)建模型。
一、繼承nn.Module基類構(gòu)建自定義模型
以下是繼承nn.Module基類構(gòu)建自定義模型的一個范例。模型中的用到的層一般在__init__函數(shù)中定義，然后在forward方法中定義模型的正向傳播邏輯。
from torch import nn
class Net(nn.Module):
def __init__(self):
super(Net, self).__init__()
self.conv1 = nn.Conv2d(in_channels=3,out_channels=32,kernel_size = 3)
self.pool1 = nn.MaxPool2d(kernel_size = 2,stride = 2)
self.conv2 = nn.Conv2d(in_channels=32,out_channels=64,kernel_size = 5)
self.pool2 = nn.MaxPool2d(kernel_size = 2,stride = 2)
self.dropout = nn.Dropout2d(p = 0.1)
self.adaptive_pool = nn.AdaptiveMaxPool2d((1,1))
self.flatten = nn.Flatten()
self.linear1 = nn.Linear(64,32)
self.relu = nn.ReLU()
self.linear2 = nn.Linear(32,1)
def forward(self,x):
x = self.conv1(x)
x = self.pool1(x)
x = self.conv2(x)
x = self.pool2(x)
x = self.dropout(x)
x = self.adaptive_pool(x)
x = self.flatten(x)
x = self.linear1(x)
x = self.relu(x)
y = self.linear2(x)
return y
net = Net()
print(net)
from torchkeras import summary summary(net,input_shape= (3,32,32));
nn.Conv1d：普通一維卷積，常用于文本。參數(shù)個數(shù) = 輸入通道數(shù)×卷積核尺寸(如3)×卷積核個數(shù) + 卷積核尺寸(如3）=卷積核尺寸(如3乘3)x輸出通道數(shù)+輸出通道數(shù)（偏置數(shù)量）
nn.Conv2d：普通二維卷積，常用于圖像。參數(shù)個數(shù) = 輸入通道數(shù)×卷積核尺寸(如3乘3)×卷積核個數(shù) + 卷積核尺寸(如3乘3)。=卷積核尺寸(如3乘3)x輸入通道數(shù)x輸出通道數(shù)+輸出通道數(shù)（偏置數(shù)量）) 通過調(diào)整dilation參數(shù)大于1，可以變成空洞卷積，增加感受野。 通過調(diào)整groups參數(shù)不為1，可以變成分組卷積。分組卷積中每個卷積核僅對其對應的一個分組進行操作。 當groups參數(shù)數(shù)量等于輸入通道數(shù)時，相當于tensorflow中的二維深度卷積層tf.keras.layers.DepthwiseConv2D。 利用分組卷積和1乘1卷積的組合操作，可以構(gòu)造相當于Keras中的二維深度可分離卷積層tf.keras.layers.SeparableConv2D。
二、使用nn.Sequential按層順序構(gòu)建模型
使用nn.Sequential按層順序構(gòu)建模型無需定義forward方法。僅僅適合于簡單的模型。以下是使用nn.Sequential搭建模型的一些等價方法。
利用add_module方法
net = nn.Sequential()
net.add_module("conv1",nn.Conv2d(in_channels=3,out_channels=32,kernel_size = 3))
net.add_module("pool1",nn.MaxPool2d(kernel_size = 2,stride = 2))
net.add_module("conv2",nn.Conv2d(in_channels=32,out_channels=64,kernel_size = 5))
net.add_module("pool2",nn.MaxPool2d(kernel_size = 2,stride = 2))
net.add_module("dropout",nn.Dropout2d(p = 0.1))
net.add_module("adaptive_pool",nn.AdaptiveMaxPool2d((1,1)))
net.add_module("flatten",nn.Flatten())
net.add_module("linear1",nn.Linear(64,32))
net.add_module("relu",nn.ReLU())
net.add_module("linear2",nn.Linear(32,1))
print(net)
利用變長參數(shù)
這種方式構(gòu)建時不能給每個層指定名稱。
net = nn.Sequential(
nn.Conv2d(in_channels=3,out_channels=32,kernel_size = 3),
nn.MaxPool2d(kernel_size = 2,stride = 2),
nn.Conv2d(in_channels=32,out_channels=64,kernel_size = 5),
nn.MaxPool2d(kernel_size = 2,stride = 2),
nn.Dropout2d(p = 0.1),
nn.AdaptiveMaxPool2d((1,1)),
nn.Flatten(),
nn.Linear(64,32),
nn.ReLU(),
nn.Linear(32,1)
)
print(net)
利用OrderedDict
鍵值對形式：鍵為層的名字，值為層的定義
from collections import OrderedDict
net = nn.Sequential(OrderedDict(
[("conv1",nn.Conv2d(in_channels=3,out_channels=32,kernel_size = 3)),
("pool1",nn.MaxPool2d(kernel_size = 2,stride = 2)),
("conv2",nn.Conv2d(in_channels=32,out_channels=64,kernel_size = 5)),
("pool2",nn.MaxPool2d(kernel_size = 2,stride = 2)),
("dropout",nn.Dropout2d(p = 0.1)),
("adaptive_pool",nn.AdaptiveMaxPool2d((1,1))),
("flatten",nn.Flatten()),
("linear1",nn.Linear(64,32)),
("relu",nn.ReLU()),
("linear2",nn.Linear(32,1))
])
)
print(net)
三、繼承nn.Module基類構(gòu)建模型并輔助應用模型容器進行封裝
當模型的結(jié)構(gòu)比較復雜時，我們可以應用模型容器(nn.Sequential,nn.ModuleList,nn.ModuleDict)對模型的部分結(jié)構(gòu)進行封裝。
這樣做會讓模型整體更加有層次感，有時候也能減少代碼量。（復雜模型的時候比較常用）注意，在下面的范例中我們每次僅僅使用一種模型容器，但實際上這些模型容器的使用是非常靈活的，可以在一個模型中任意組合任意嵌套使用。
相當于結(jié)合以上兩種方式。
nn.Sequential作為模型容器
class Net(nn.Module):
def __init__(self):
super(Net, self).__init__()
self.conv = nn.Sequential(
nn.Conv2d(in_channels=3,out_channels=32,kernel_size = 3),
nn.MaxPool2d(kernel_size = 2,stride = 2),
nn.Conv2d(in_channels=32,out_channels=64,kernel_size = 5),
nn.MaxPool2d(kernel_size = 2,stride = 2),
nn.Dropout2d(p = 0.1),
nn.AdaptiveMaxPool2d((1,1))
)
self.dense = nn.Sequential(
nn.Flatten(),
nn.Linear(64,32),
nn.ReLU(),
nn.Linear(32,1)
)
def forward(self,x):
x = self.conv(x)
y = self.dense(x)
return y
net = Net()
print(net)
nn.ModuleList作為模型容器
注意下面中的ModuleList不能用Python中的列表代替。（即不用省略）
class Net(nn.Module):
def __init__(self):
super(Net, self).__init__()
self.layers = nn.ModuleList([
nn.Conv2d(in_channels=3,out_channels=32,kernel_size = 3),
nn.MaxPool2d(kernel_size = 2,stride = 2),
nn.Conv2d(in_channels=32,out_channels=64,kernel_size = 5),
nn.MaxPool2d(kernel_size = 2,stride = 2),
nn.Dropout2d(p = 0.1),
nn.AdaptiveMaxPool2d((1,1)),
nn.Flatten(),
nn.Linear(64,32),
nn.ReLU(),
nn.Linear(32,1)]
)
def forward(self,x):
for layer in self.layers:
x = layer(x)
return x
net = Net()
print(net)
nn.ModuleDict作為模型容器
注意下面中的ModuleDict不能用Python中的字典代替。
class Net(nn.Module):
def __init__(self):
super(Net, self).__init__()
self.layers_dict = nn.ModuleDict({"conv1":nn.Conv2d(in_channels=3,out_channels=32,kernel_size = 3),
"pool": nn.MaxPool2d(kernel_size = 2,stride = 2),
"conv2":nn.Conv2d(in_channels=32,out_channels=64,kernel_size = 5),
"dropout": nn.Dropout2d(p = 0.1),
"adaptive":nn.AdaptiveMaxPool2d((1,1)),
"flatten": nn.Flatten(),
"linear1": nn.Linear(64,32),
"relu":nn.ReLU(),
"linear2": nn.Linear(32,1)
})
def forward(self,x):
layers = ["conv1","pool","conv2","pool","dropout","adaptive",
"flatten","linear1","relu","linear2","sigmoid"]
for layer in layers:
x = self.layers_dict[layer](x) # 只找有的 sigmoid是沒有的
return x
net = Net()
print(net)
參考：https://github.com/lyhue1991/eat_pytorch_in_20_days
到此這篇關于pytorch中構(gòu)建模型的3種方法的文章就介紹到這了,更多相關pytorch構(gòu)建模型內(nèi)容請搜索腳本之家以前的文章或繼續(xù)瀏覽下面的相關文章希望大家以后多多支持腳本之家！
相關文章
notepad–是一個國產(chǎn)跨平臺、輕量級的文本編輯器,是替換notepad++的一種選擇,notepad特點支持Window/Mac/Linux操作系統(tǒng)平臺,支持其他notepad競品的常用功能,這篇文章給大家介紹Notepad 輕量級文本編輯器的安裝及基本使用,感興趣的朋友一起看看吧2024-01-01
這篇文章給大家介紹了python從zip中刪除指定后綴文件，然后再自動壓縮，本文給大家提供了源碼參考，感興趣的朋友跟隨小編一起看看吧2019-12-12
今天小編就為大家分享一篇用pandas中的DataFrame時選取行或列的方法，具有很好的參考價值，希望對大家有所幫助。一起跟隨小編過來看看吧2018-07-07
這篇文章主要介紹了Python中編寫ORM框架的入門指引,示例代碼基于Python2.x版本,需要的朋友可以參考下2015-04-04
這篇文章主要為大家詳細介紹了python Socket之客戶端和服務端握手，具有一定的參考價值，感興趣的小伙伴們可以參考一下2017-09-09
今天給大家?guī)淼氖顷P于Python爬蟲的相關知識,文章圍繞著Python scrapy展開,文中有非常詳細的介紹及代碼示例,需要的朋友可以參考下2021-06-06
Python使用文件鎖實現(xiàn)進程間同步功能【基于fcntl模塊】
這篇文章主要介紹了Python使用文件鎖實現(xiàn)進程間同步功能,結(jié)合實例形式分析了Python基于fcntl模塊文件鎖功能實現(xiàn)進程間同步的相關操作技巧,需要的朋友可以參考下2017-10-10
這篇文章主要介紹了jupyter notebook 的工作空間設置操作，具有很好的參考價值，希望對大家有所幫助。一起跟隨小編過來看看吧2020-04-04
這篇文章主要介紹了python3獲取url文件大小,本文通過示例代碼給大家介紹的非常詳細，具有一定的參考借鑒價值，需要的朋友可以參考下2019-09-09
這篇文章主要為大家詳細介紹了python用海龜繪圖寫貪吃蛇游戲，文中示例代碼介紹的非常詳細，具有一定的參考價值，感興趣的小伙伴們可以參考一下2021-06-06